Его карьера в СС развивалась следующим образом: 1 июля 1934 года – СС-оберштурмфюрер, 30 января 1935 года – СС-гауптштурмфюрер, 20 апреля 1936 года – СС-штурмбанфюрер, 9 ноября 1936 года – СС-оберштурмбаннфюрер, 30 января 1937 года – СС-штандартенфюрер, 20 апреля 1939 года – СС-оберфюрер, 12 декабря 1940 года – СС-бригадефюрер и генерал-майор полиции и 9 ноября 1941 года – СС-группенфюрер и генерал-лейтенант полиции.
Организация, которой управлял Мюллер, то есть тайная государственная полиция, была основана в 1933 году Германом Герингом, занимавшим в то время пост Верховного министра Пруссии, но затем она перешла в ведение Генриха Гиммлера как часть его строящейся империи. Описание многочисленных изменений, добавлений, слияний и разрастаний гестапо за время ее существования составило бы целый том, поскольку Мюллер, подобно Гиммлеру, тоже был строителем империи. В конце 1944 года гестапо было организовано следующим образом:
RSHA-Amt IV (гестапо)
Amtschef: SS-Gruppenfuhrer und Gen. Lt. d. Polizei. Генрих Мюллер
IV A Fachreferat (специализированные подразделения)
IV В Landerreferat (территориальные подразделения)
IV С Grenzpolizei (пограничная служба)
Эти основные отделы подразделялись следующим образом:
IV AI Левое и правое крыло оппозиции
IV А2 Антисаботаж
IV A3 Контрразведка
IV A4 Евреи, христианские церкви
IV А5 Особые случаи
IV А6 Заключение под стражу для защиты
IV BI Западные оккупированные территории
IV В2 Восточные оккупированные территории
IV В3 Юго-восточные оккупированные территории
IV В4 Паспорта и удостоверения личности
IV Ва А Правила найма иностранных рабочих
IV С Zollgrenzschutz (таможня), инспекция пограничных служб.
Хотя по приказу Мюллера в 1945 году большая часть документов гестапо была уничтожена, можно с большой долей вероятности утверждать, что полный список сотрудников гестапо насчитывал порядка 25.000 человек, плюс гораздо большее число V-агентов, или Vertrauensleute, добровольных и оплачиваемых информаторов. Когда в 1943 году система военной разведки (абвер) была расформирована из-за ее малой эффективности, Мюллер сумел получить управление контрразведки в свое ведение. Несмотря на то что в июне 1941 года Гитлер приказал, чтобы радиоперехватом занималась только армия, Мюллер внедрился также и в эту область и к концу войны руководил обширным управлением радиоразведки. Данная служба специализировалась на перевербовке неприятельских агентов, чтобы в дальнейшем они поставляли своим бывшим хозяевам ложную информацию и раскрывали забрасываемых или местных агентов.
