Задание по усовершенствованию орудия выполнили сотрудники КБ Орудийно-арсенального треста. Они оснастили пушку новым подрессоренным лафетом с измененной носовой и усиленной хоботовой частью, а также расточили камору ствола для укороченной гильзы «трехдюймовки» образца 1902 года. Известный специалист Л.А. Монаков разработал для пушки, обозначенной «76,2-мм полковая пушка обр. 1927 г.», специальный прицел, оснащенный дистанционным барабаном со шкалами.

В 1929 году «полковушку» вновь модернизировали, установив облегченные металлические колеса со спицами и резиновыми шинами автомобильного типа, заполненными губчатым каучуком. Скрепленный ствол заменили более простым и технологичным стволом-моноблоком. В состав боекомплекта входили стандартные унитарные патроны 76,2-мм пушки обр. 1902 г., которые хотя и имели меньший заряд, но зато облегчали снабжение боеприпасами артиллерийских подразделений.

Полковая пушка обр. 1927 г. применялась в боях во время конфликтов на КВЖД, у озера Хасан и на реке Халхин-Гол, показав довольно хорошие характеристики. Использовалась она и в начальный период Великой Отечественной войны, сыграв важную роль при обороне Москвы. В наступательных операциях Красной Армии ее эффективность резко снизилась из-за небольшого угла горизонтального обстрела. Поэтому в 1943 году производство орудия было прекращено. За предыдущие четыре года изготовили около 14 тыс. пушек образца 1927 года.