В Красной Армии с июля 1918 г. Активно участвовал в Гражданской войне, занимая командные должности и посты политсостава в соединениях Восточного фронта: комиссар 1-й Новгородской стрелковой дивизии, командир бригады Левобережной группы войск (под Казанью), командир 1-й бригады 27-й стрелковой дивизии, начальник 35-й стрелковой дивизии (с сентября 1919 г. и до конца войны). При разгроме войск барона Унгерна в Монголии в 1921 г. командовал экспедиционным корпусом.
После Гражданской войны на высоких должностях в РККА— командир 35-й и 5-й стрелковых дивизий. В 1924—1928 гг. — командир 4-го и 17-го стрелковых корпусов. Затем некоторое время работал старшим руководителем в Военной академии имени М.В. Фрунзе, но вскоре был переведен в резерв РККА, заняв должность помощника начальника Военно-промышленного управления ВСНХ СССР. С июня 1934 г. Нейман находился в распоряжении Наркомата тяжелой промышленности. Там его утвердили управляющим 8-м главком (Главное управление танковой промышленности, которое с 1932 г. именовалось Спецмаштресгом). Поэтому Константина Августовича Неймана можно с полным основанием считать одним из первых организаторов танковой промышленности в СССР. За выдающийся вклад в дело производства танков в стране и поставления их Красной Армии Нейман в 1936 г. был награжден орденом Ленина — это вдобавок к тем двум орденам Красного Знамени, которые он получил за подвиги в Гражданскую войну.
Комкор Нейман был арестован 21 июля 1937 г. Сделано это было поспешно, без соблюдения хотя бы минимальных формальностей. Например, только спустя месяц начальник Управления по комначсоставу РККА армейский комиссар 2-го ранга А.С. Булин положил на стол Ворошилову следующий документ.
«Наркому обороны СССР Маршалу Советского Союза тов. Ворошилову К.Е.
Представляю на Ваше решение проект приказа об увольнении вовсе из РККА арестованных органами НКВД:
1) Бывшего начальника 8-го Управления Наркомата оборонной промышленности комкора Неймана К.А.
2) Бывшего начальника Центрального аэроклуба Осоавиахима комбрига Дейча М.С.
3) Бывшего заместителя начальника Главного управления химической промышленности Наркомата тяжелой промышленности майора Тодорского И.И.
Начальник Управления армейский комиссар 2-го ранга Булин «» августа 1937 г.».
Ворошилову ничего не оставалось, как подписать приказ, который гласил: «Комкор Нейман Константин Августович увольняется вовсе от службы в РККА по ст.44 пункт «в» (приказ НКО № 0854 от 26 августа 1937 г.).
