В 1926 году после смерти Дзержинского на его место пришел Вячеслав Менжинский. Но на самом деле ОГПУ руководил его заместитель, верный сторонник Сталина Генрих Григорьевич Ягода. После принятия 1 августа 1927 года Сталиным принципа «построения социализма в отдельно взятой стране» от планов экспорта революции отказались, и ОГПУ применило всю свою мощь как сильный инструмент для внутренних репрессий, возвратив себе прежние полномочия Чека времен Гражданской войны.
В августе 1931 года борьба с мусульманскими восстаниями в Средней Азии достигла таких масштабов, что пришлось создавать специальное боевое формирование, включавшее подразделение Дивизии имени Дзержинского, а также подразделения кавалерии и артиллерии.
В 1934 году ОГПУ было ликвидировано и сменено одним из главных управлений НКВД — ГУГБ. В феврале 1941 года, как раз перед началом Великой отечественной войны, его полномочия были отняты у НКВД и переданы новому народному комиссариату — НКГБ. Оба комиссариата были под единым общим командованием Лаврентия Павловича Берии — еще одного верного человека Сталина — и представляли собой в истинном виде государство в государстве. В то время одновременно говорили о НКВД-НКГБ. Благодаря этой комбинации все силы по поддержанию порядка и безопасности были сосредоточены в руках Берии, т. е. самого Сталина.
Во время Второй мировой войны, одновременно с развитием военных сил специального назначения, можно было наблюдать новое разделение задач между специальными службами и войсками специального назначения. Их эволюция двигалась в двух разных и взаимодополняющих направлениях:
— специальные службы, призванные для выполнения, прежде всего, политических задач, подчиненные службам разведки/безопасности
— войска специального назначения, призванные для выполнения военных задач, подчиненные командованию вооруженных сил.
Оба направления были под контролем Политбюро. Такое разделение труда при едином политическом контроле и с организациями, располагавшими большими и важными средствами, просуществовало до самого падения коммунистической системы. Система была заинтересована в существовании этого инструмента из двух различных сил, дополняющих друг друга в обеспечении сохранения коммунистической власти.
Сразу после войны на освобожденной территории специальные службы НКВД вели борьбу с антикоммунистическими партизанами, частично состоявшими из бывших членов «Вервольфа», под командованием бывших офицеров Ваффен-СС, которых сбрасывали с парашютом западные спецслужбы.
