В связи с введением нового режима в тюрьмах ГУГБ и следственных изоляторах были усилены меры наказания к «хулиганствующим заключённым». За оскорбительные словесные или письменные заявления заключённых, оскорбительные выходки (плевки, ругательства, попытки нанести оскорбления действием) предусматривался перевод в более строгую тюрьму, применение более строгого тюремного режима, заключение в карцер до 20 суток, предание суду. Так, в приказе от 8 февраля 1937 года Ежов предписывал предать суду целый список содержавшихся в тюрьмах ГУГБ осуждённых на разные сроки заключённых, приславших ему в связи с введением нового тюремного режима оскорбительные заявления.
Внесудебные репрессии второй половины 30-х годов сочетались с жёстким уголовным законодательством, и, как следствие этого, широко применялось наказание в виде лишения свободы. При Ежове было значительно упрощено производство по делам о контрреволюционных преступлениях на основании постановления ЦИК СССР от 14 сентября 1937 года «О внесении изменений в действующее уголовно-процессуальное законодательство союзных республик». Вслед за этим постановлением ЦИК СССР от 2 октября 1937 года повысились максимальные пределы наказания в виде лишения свободы от 10 до 25 лет за шпионаж, террор, диверсии.
Кара, уголовное наказание становилось основным методом борьбы со всеми антиобщественными проявлениями и правонарушениями. Обязательность применения таких мер в указанных постановлениях ЦИК СССР обосновывалась необходимостью предупреждения и сокращения преступности.
При Ежове начала формироваться система тюрем, подчинённых 10-му отделу Главного управления государственной безопасности (ГУГБ) НКВД СССР. ОНИ предназначались исключительно для содержания подследственных и осуждённых по составу контрреволюционных преступлений. К непосредственно подчинённым этому отделу тюрьмам Верхнеуральской, Суздальской, Челябинской, Ярославской и на острове Соловки (удалённых от центра) прибавились Бутырская, Владимирская, Лефортовская и Орловская тюрьмы, находившиеся до этого в составе ГУЛАГа. Повсеместно при следственных тюрьмах ГУЛАГа создавались так называемые внутренние тюрьмы для содержания подследственных по составу контрреволюционных преступлений и подчинённых исключительно ГУГБ НКВД СССР.
Создание при тюрьмах ГУЛАГа (по состоянию на 20 сентября 1939 г. в стране имелось 392 тюрьмы) внутренних тюрем ГУГБ потребовало изменения порядка управления ими в силу того, что содержавшиеся под следствием числились за разными ведомствами — ГУГБ и ГУРКМ, а уже осуждённые — за ГУГБ и ГУЛАГ НКВД СССР. В 1938 году
