Эти связи, поддерживаемые политическим прошлым Гейдриха, привели его в НСДАП. Партия приобрела в его лице полезного члена. Его образование, военная подготовка и специальные знания делали из него весьма ценного сотрудника. Гейдрих вступил в СС, потому что это было средство для определения его позиции. Вскоре он уже возглавил кильскую группу СС, не очень большую по численности. В этот период его заметил Гиммлер. Он сумел разглядеть исключительные способности своего скрытного подчиненного. 1 августа 1931 года он назначил Гейдриха штурмфюрером, к осени повысил до штурмбаннфюрера (майора) и включил в состав своего штаба в Мюнхене.
В июле 1932 года Гиммлер решил реорганизовать службу безопасности СС и, зная компетентность Гейдриха в данной области, поручил ему эту работу, произведя в штандартенфюреры. После создания СС в каждой воинской части имелись 2–3 человека, занятые обеспечением «безопасности», то есть разведывательной службой. Сам Гиммлер очертил круг обязанностей этих агентов: «В те времена мы, по понятным причинам, располагали разведывательной службой в полках, батальонах и ротах. Было важно знать, что готовят наши противники. Хотят ли, например, коммунисты провести сегодня собрание, произойдет ли внезапное нападение на наших людей, о других событиях такого рода».
В 1931 году Гиммлер отделил работников разведки от остальных подразделений СС и создал закрытую службу безопасности. Новая организация была окрещена им службой безопасности рейхсфюрера СС (СД). Она осталась органом СС, отвечающим за безопасность самого Гиммлера и эсэсовцев вообще.
Возглавив эту новую службу, Гейдрих решил осуществить на практике то, чему его научили в морской разведке. Он построил новую организацию на военный лад, а ее сотрудникам предоставил техническое образование. Он создал разведывательные картотеки, которые существовали на тот момент в неполном виде, однако не смог дать службе должное развитие из-за нехватки кадров. Зато после взятия власти он заполнил ее пробелы, используя собственные методы. Довольный его работой, Гиммлер в 1933 году назначил Гейдриха своим представителем в руководстве баварской полиции, а в 1934 году поставил во главе центральной службы гестапо. Гейдрих не принадлежал к «ветеранам» движения, но имел достаточно солидный партийный стаж, когда утвердился в Берлине, где возглавил гестапо, оставаясь в то же время шефом СД.
Этот человек с бурным прошлым, который в скором времени заставит трепетать многих немцев, имел вид вполне безобидный: высокий офицер-ариец, хорошо воспитанный, белокурый, гладкая жестковатая шевелюра разделена на две неравные части точнейшей ниточкой пробора и отливает легкой рыжиной. Он был статен, хорошо сложен, обладал «отличной военной выправкой», высоко ценимой в те времена. Очень характерным было лицо Гейдриха. Необыкновенно высокий лоб нависал над маленькими, глубоко посаженными голубыми глазками, которых почти не было видно из-за пухлых век. Его раскосые глаза были похожи на глаза азиатов, намекая на его отдаленных предков, вступавших в близкий контакт с кочевниками Чингисхана или Аттилы. Этих нескромных признаков вполне было достаточно, чтобы свести к нулю все расовые теории Гиммлера, если бы он дал себе труд задуматься над ними. Лицо Гейдриха имело овальную, очень удлиненную форму с крупными ушами, у него был длинный прямой нос, широковатый у основания. На этом мужественном лице ярким пятном выделялся рот: широкий и красиво очерченный, с крупными губами. Для такого мужчины, как Гейдрих, его голос был на два тона выше: голос женщины, вырывающийся из широкой груди атлета. Женственными были и его руки: белые, тонкие, холеные и живые, в них, как и в его лице, жила экспрессия. Если лицо Гиммлера представляло собой бесстрастный лик Будды, Гейдрих никак не мог совладать со своим темпераментом холерика. Когда он выступал, его речь была порывистой и резкой. Часто он не успевал закончить фразу, слова сталкивались друг с другом, теснимые слишком быстрой мыслью. Гиммлер маскировал отсутствие мысли, прибегая к командному тону, не давая собеседникам возможность разобраться в его намерениях. Гейдрих же, казалось, более всего боялся быть плохо понятым.
