К тому времени Рейнхард Гейдрих поднялся до уровня максимально засекреченного руководителя небывалого кровавого заговора, который хотя и носил имя Рема, но, скорее, заслуживал право называться именем нового шефа службы госбезопасности. Для подтверждения этого нет конкретных документов, но из многочисленных высказываний его участников после войны стало известно, что Гейдрих в конце апреля 1934 года начал собирать материалы, компрометирующие Рема. В результате на свет появилась страшная мешанина из догадок, фальсифицированных доказательств и фальшивых косвенных улик, которая должна была убедить потенциальных союзников в вынашиваемых намерениях путчистов.
Рем, который мог только догадываться, кто же интриговал против него, вдруг обнаружил, что на него готовится настоящая облава. Все складывалось как нельзя хуже. Даже органы юстиции возобновили следственные действия против членов СА, и он не мог этому воспрепятствовать.
Противникам Рема было на руку, что начальник штаба умудрился испортить отношения со всеми. У населения непопулярен, для рейхсвера опасен, Геббельсу, Борману и Герингу ненавистен, от Гитлера отлучен. Теперь его противникам шеф СА стал казаться легкой добычей.
Шеф СС Генрих Гиммлер с некоторым опозданием примкнул к постепенно формирующейся фронде против Рема.
После недолгих колебаний бывший знаменосец Рема учуял новое перераспределение власти и постарался скорее забыть о старых отношениях. Еще недавно, 28 ноября, он пожелал Рему в день рождения всего, «что можно пожелать солдату и другу… нашей большой гордостью всегда была и остается возможность принадлежать к самым близким тебе людям».
Предположительно в начале марта, а также один раз в апреле 1934 года состоялись две конфиденциальные встречи Гиммлера и Рема в Ратенове под Берлином, во время которых начальник штаба читал нотации молчавшему фюреру СС: войска СС занимают консервативные позиции, они оберегают реакцию и мелкую буржуазию, их зависимость от армии и традиционной бюрократии слишком велика.
Из показаний адъютанта Гиммлера Карла Вольфа явствует, что Гиммлер якобы просил главу СА не допускать гомосексуальных эксцессов, которые могут стать достоянием общественности. Рем проявил-де понимание вопроса, но на следующее утро Гиммлеру доложили о новой оргии.
В последующие недели Гиммлер объезжал региональные организации СС по всей империи, чтобы подготовить руководителей на местах к грядущим событиям.
Между тем Гейдрих потребовал более активных действий от своих соглядатаев и доносчиков. Результаты оказались более чем скудными. Имелись сообщения о складах оружия в Мюнхене, Берлине и Силезии, а Рем встречался с бывшим канцлером генералом Куртом фон Шлейхером, который искал контакты с группировками внутри партии, критически настроенными против Гитлера, как это до сих пор утверждает его дочь Лонни. Рем поддерживал связь с французским послом Франсуа-Понсе, который, вспоминая последнюю с ним встречу, назвал ее очень скучно проведенным ужином.
