Добились и того, что 30 января 1934 г. полицейская служба была выведена из-под юрисдикции отдельных германских земель, поставлена под юрисдикцию рейха. Но у нее еще оставалось два «хозяина». У Геринга теперь было множество других дел, но и полицию выпускать из рук ему не хотелось. Гиммлер попытался осуществить хитрый маневр. Назначил своим представителем в Пруссии группенфюрера Курта Далюге — он считался вторым лицом в СС, тоже пользовался персональным покровительством Гитлера. Предполагалось, что прусская полиция будет подчиняться ему, а он по линии СС — Гиммлеру.
Но Геринг переманил Далюге, сделал генералом полиции, и тот отвернулся от рейхсфюрера СС. Хотя в делах своего ведомства абсолютно не разбирался, там все пошло кувырком. Гиммлер снова закидывал удочки фюреру, что надо централизовать полицию под его властью. Однако Гитлер не хотел обижать Геринга. Неожиданно «помог» Далюге. Загорелся урвать под себя общее руководство полицией и в Пруссии, и во всем рейхе, взял себе в союзники министра внутренних дел Фрика. Но тут уж против него ополчились и Гиммлер, и Геринг, совместными усилиями выгнали нового конкурента.
После этого удалось найти приемлемое решение. Фюрер отдал прусскую полицию Гиммлеру — но с подчинением его Герингу. Дильса убрали, перевели в Кельн, и 20 апреля 1934 г. он сдал свои дела рейхсфюреру СС. Отныне он встал во главе всей германской полиции, а руководство гестапо возложил на Гейдриха. Подчиненные им в Берлине достались разношерстные. Тут были и «люди Дильса», и «люди Далюге», при политических и расовых чистках новых сотрудников набирали из «вспомогательных сил полиции» — из СА. Рабочий костяк Гейдрих предпочел взять уже знакомый, испытанный, из Мюнхена.
В числе таких помощников выбрал Мюллера. Не просто выбрал. В тот же самый день, когда Гиммлер возглавил столичную полицию, Мюллеру присвоили звание штурмфюрера (лейтенанта) СС и зачислили в главное управление СД. Хотя он даже не был членом партии! Но его выделили из берлинских гестаповцев, обозначили его особый статус при Гейдрихе и Гиммлере. Впрочем, это имело и чисто практическую сторону. Ведь формально высшим шефом гестапо оставался Геринг. Но Гиммлер в дополнение к посту начальника полиции остался рейхсфюрером СС, а Гейдрих — начальником СД. А эти структуры Герингу не подчинялись.
Гестапо располагалось по адресу Принц-Альбрехтштрассе, дом 8. Но Гиммлер при реорганизации прихватил и несколько соседних зданий — музей фольклора и профессиональную промышленную школу. Из них сложился изолированный мрачный комплекс зданий берлинского гестапо. А Мюллеру в этом заведении поручили отдел, занимавшийся борьбой с коммунистами, марксистами, профсоюзами. Но в СД Гейдрих определил его на другое направление — назначил в секцию II 1 Н, отвечавшую за «внутренний» контроль над НСДАП и СА. Для этого он годился как никто лучше — поскольку заведомо не был связан ни с кем из партийных деятелей.
