Дзержинский, в силу своих возможностей, пытался исправить ситуацию. Манцев ставил вопрос ребром: «Если чека не нужна, то об этом надо сказать прямо и твердо. И мы соответствующим образом будем тогда поступать». На этот вопрос нужно было найти ответ, и Ягода, «хороший организатор и хозяйственник», был незаменим в этой роли. Сам Ягода получил возможность выступить в роли «защитника чекистов и благодетеля».
Кроме того, следует учитывать, что в троцкистской оппозиции принимали участие многие бывшие чекисты. Например, Иван Петрович Бакаев служил в ВЧК (сначала Петрограда, затем Юго-Востока) в 1919–1921 гг., Котэ Цинцадзе руководил Грузинской ЧК в 1921–1922 гг., Яков Абрамович Лившиц был председателем Киевской ЧК(1920–1921), а затем был заместителем председателя ГПУ УССР, начальником Секретно-оперативной части ГПУ УССР. Конечно, к 1927 г. они ушли из ОГПУ, но связи, видимо, оставались, и несмотря на принятые меры, влияние троцкистов в ОГПУ оставалось заметным. А.М.Плеханов справедливо считает, что написанная в 1927 году «Современная баллада» точно отражает настроение в органах:
Ненастное небо угрюмо,
Лежит на диване чекист,
Томят его черные думы…
Повсюду разруха, смятенье развал…
Что делать? Где выход желанный найти?
Остаться ли Сталина верным рабом?
Иль с Троцким устроить партийный погром?
Не позже 1927 года ОГПУ перешло к активным арестам троцкистов. Ягода, видимо, действительно был близок к правым (Рыкову, Бухарину, Томскому, Угланову), что было особенно заметно в конце 1920-х. Сам Ягода признает, что был близок к правым по «идейным мотивам», кроме того, он мог считать, что со временем правые победят. В 1928 — начале 1929 гг. он несколько раз встречался с лидерами правых на даче Томского.
Всем старым членам ЦК было хорошо известно, что в июле 1928 года между оппозиционером Л. Каменевым и Н. Бухариным произошел разговор, в котором правые пытались договориться с троцкистско-зиновьевской оппозицией о совместной борьбе против Сталина. В ходе этого разговора Бухарин якобы заявил: «Наши потенциальные силы огромны. Рыков, Томский, Угланов абсолютно наши сторонники. Я пытаюсь оторвать от Сталина других членов Политбюро, но пока получается плохо. Орджоникидзе не рыцарь. Ходил ко мне и ругательски ругал Сталина, а в решающий момент предал. Ворошилов с Калининым тоже изменили нам в последний момент. Я думаю, что Сталин держит их какими-то особыми цепями. Оргбюро ЦК ВКП(б) наше. Руководители ОГПУ Ягода и Трилиссер — тоже. Андреев тоже за нас». Упомянутый в разговоре, Меер Абрамович Трилиссер, руководитель иностранного отдела ОГПУ, пришел в центральный аппарат только в 1922 году, но благодаря уму и организаторским способностям быстро сделал карьеру. В 1928 году он стал заместителем председателя ОГПУ и уполномоченным ОГПУ при СНК СССР.
