Родился в Москве в семье врача. В 1931 окончил Московский автотракторный институт имени Ломоносова (ныне МАМИ). Его дипломной работой стала разработка армейского тяжелого мотоцикла с карданной передачей для возможного использования в Красной армии. Это был его первый крупный успех. После окончания института работал на АМО* слесарем-техником и помощником мастера. В 1933 году переходит в Научный автотракторный институт, а оттуда в недавно созданный Научно-исследовательский институт городского движения – НИИГД. Одной из важных задач, поставленных перед молодым инженером, было создание агрегата для уборки снега в городе. Так  возникла первая отечественная снегоуборочная машина. В 1935 Фиттерман перешел работать на Горьковский автозавод (ГАЗ), занимался проектированием легкового автомобиля ГАЗ-М1 – знаменитой Эмки. В 1938 году    его перевели в Москву на автозавод им. Сталина (ЗИС). Вскоре Фиттерман был назначен начальником конструкторского бюро шасси, где возглавлял работу над трехосным шасси для тяжелого бронеавтомобиля БА-11. Затем работал над проектами вездеходов ЗИС-32, ЗИС-36, полугусеничного автомобиля ЗИС-22. К началу Великой Отечественной войны Фиттерман стал одним из ведущих специалистов конструкторского бюро завода, а в марте 1943 года, после разработки танка на базе Т-60 и модернизации 82-мм батальонного миномета, был назначен главным конструктором ЗИСа. После войны он участвует в создании нового автомобиля высшего класса ЗИС-110,  городских автобусов вагонного типа. За разработку модели ЗИС-110 в 1946 году удостоены звания лауреатов Сталинской премии II степени А.Н. Островцев, Л.Н. Гусев, А.П. Зигель, Б.М. Фиттерман. В 1944 г. на ЗИСе создается полноприводный автомобиль ЗИС-151, на базе узлов и агрегатов которого, ведущий конструктор проекта Б.М. Фиттерман к маю 1947 года создает первые два прототипа колесного бронетранспортера ЗиС-152. . За это Фиттермана наградили орденом Трудового Красного Знамени. 
                                   На следующий после вручения правительственной награды день, 28 марта 1950 года, Фиттерман был арестован. Ему предъявили обвинение в участии в еврейско-националистической группе, проводящей вредительско-подрывную работу под руководством помощника директора ЗИСа Арона Эйдинова. Все обвинения были ложными, признания выбиты пытками. По этому антисемитскому делу были осуждены к разным мерам наказания 41 руководящий работник ЗИСа и министерства автотракторной промышленности. А.Ф. Эйдинова и ещё 10 человек расстреляли, остальные получили разные сроки заключения. Фиттерман был осуждён к 25 годам заключения в лагере и 5-ти годам последующей ссылки. Один из лучших технических специалистов страны был отправлен в Воркуту, работал в шахте. Затем его назначили заведующим лагерным техническим кабинетом и преподавателем автодела. Помимо Фиттермана, среди арестованных оказались главный конструктор по электрооборудованию Г. Гольдберг, зам. начальника кузовного отдела Г. Жаботинский, зам. главного металлурга М. Коган, ведущий конструктор Г. Сонкин, старший технолог А. Шмидт, зам. начальника производства П. Мостославский, ответственный работник лаборатории резания Б. Майнсфельд, экономисты, инженеры, хозяйственники, даже работники питания, начальник медсанчасти Д. Самородицкий, врач А. Финкельштейн. Не смог спасти от расстрела своего помощника Арона Филипповича Эйдинова сам И. Лихачев. Директора не тронули, но обвинили в том, что он не только держал на командных должностях слишком много евреев, но и "расплодил" на заводе людей еврейской национальности, создавших якобы тайную контрреволюционную организацию. Освободили и реабилитировали Фиттермана лишь в конце 1955 года. Он отказался и от возвращения на родной завод, (хотя Лихачёв лично просил его об этом) и от работы в отраслевом министерстве. Борис Михайлович устроился в НАМИ, где первое время разрабатывал прицепы, а затем возглавил Бюро легковых автомобилей. Один из лучших в стране специалистов по мощной и крупногабаритной технике, создатель лимузинов, грузовиков, вездеходов и бронемашин, оказался во главе коллектива, разрабатывающего мотоколяски и миниавтомобили. Но талантливый человек талантлив во всем. Под его руководством в 1958 году была создана четырехместная микролитражка НАМИ-059, Фиттерман курировал волшебные превращения FIAT 600 сначала в «Москвич-444», а затем ЗАЗ-965. Борис Михайлович настолько увлекся «автоминиатюрами», что в 1960 году написал книгу «Микроавтомобили», Эта книга на долгие годы стала неофициальным учебником для всех отечественных конструкторов микролитражек. В конце 50-х, начале 60-х годов  под его руководством были спроектированы микролитражные армейские вездеходы. В результате, были созданы на луцком автозаводе ЛуАЗов -967 (ТПК) и Луаз-969                                               
Б. М. Фиттерман лауреат 2-х Государственных премий, награждён орденами Ленина и Трудового Красного Знамени. В последние годы участвовал в разработке таких проектов, как транспорт на воздушной подушке.