В конце 20-х годов Сталин выдвинул тезис об обострении классовой борьбы в стране и настойчиво повторял его из года в год. Под предлогом борьбы с классовыми врагами он направил усилия ОГПУ на искоренение «вредительства». Тысячи старых специалистов, работавших в промышленности, на транспорте, в различных государственных учреждениях и общественных организациях, были объявлены «вредителями» и подверглись репрессиям. Затем в годы коллективизации были обрушены удары на кулаков, а под предлогом борьбы с ними и на часть середняков, так называемых «подкулачников». В результате этого пострадали миллионы крестьян. Таким образом, методы, применявшиеся в период гражданской войны против контрреволюционного подполья и агентуры империалистических разведок, оказались механически перенесенными на период мирного социалистического строительства, когда условия коренным образом изменились. В стране стала складываться атмосфера нетерпимости, вражды, подозрительности.
В 30-е годы еще больше расширились полномочия ОГПУ, затем (с 1934 года) НКВД. В системе Наркомата внутренних дел возникли внесудебные органы – Особое совещание, «тройки», «двойки», осуществлявшие массовые репрессии.
Контроль партии над органами государственной безопасности был подменен единоличным контролем Сталина. Произошла существенная деформация их социальной природы. Если в области внешней разведки, борьбы с подрывной деятельностью империалистических спецслужб и зарубежных антисоветских центров, охраны границы они выполняли задачу обеспечения безопасности социалистического государства, то в осуществлении своих внутриполитических функций, по сути дела, стали инструментом утверждения режима личной власти Сталина, орудием террора в отношении значительной части советских людей.
Наибольший размах массовые репрессии приняли в 1936–1938 годах. В результате их пострадало большое количество коммунистов и беспартийных. На основании ложных обвинений были осуждены и расстреляны многие видные деятели партии и Советского государства, большая часть командиров и политработников Красной Армии, тысячи рабочих, служащих. Жертвами произвола и беззакония стали около 20 тысяч чекистов, среди них были и те, кто сохранил верность революционным традициям, отказывался нарушать социалистическую законность. В эти годы погибли многие бывшие руководящие работники ВЧК, соратники Дзержинского: А. X. Артузов, Г. И. Бокий, М. Я. Лацис, М. С. Кедров, В. Н. Манцев, Г. С. Мороз, И. П. Павлуновский, Я. X. Петерс, М. А. Трилиссер, И. С. Уншлихт, В. В. Фомин и другие.
