Разработка орудия началась в 1927 году в КБ Арткомитета ГАУ. Работы вначале возглавлял Ф.Ф. Лендер, а затем руководство проектом перешло в руки ведущих конструкторов заводов. Первый опытный образец гаубицы был изготовлен в начале 1931 года, а серийное производство артсистемы развернули в следующем году. 203-мм орудие предназначалось для разрушения особо прочных сооружений противника из железобетона и броневой стали, а также для уничтожения целей, находящихся вдалеке от линии фронта.

Гаубица Б-4 имела скрепленный или моноблочный ствол с лейнером и тяжелый лафет с гусеничным ходом. Лафет обладал высокой проходимостью и позволял вести огонь с грунта без использования специальных упоров и платформ. В походном положении орудие разбиралось на две части (ствол и лафет) и транспортировалось на двух повозках со скоростью около 15 км/ч. Боекомплект Б-4 состоял из выстрелов раздельного картузного заряжания с десятью различными зарядами. Стрельба велась фугасными и бетонобойными снарядами весом около 100 кг. Для облегчения заряжания в задней части гаубицы монтировалась лебедка.

К началу Великой Отечественной войны в 33 полках тяжелой артиллерии РГК находилось 727 гаубиц Б-4. Небольшое их количество захватили немцы. Остальные были отведены в тыл и приняли участие в боевых действиях только в конце 1942 года, когда советские войска перешли в наступление.