Германские войска вступили в Австрию на рассвете 12 марта. В это время Гиммлер въезжал в Вену. Согласно нацистским принципам чистка полиции и нейтрализация политической оппозиции всегда должны быть первыми актами правительства. Поэтому гестапо оказалось первой германской властью, которую увидели венцы. Ночью Гиммлер и Шелленберг, один из шефов внешней службы СД, сели в самолет вместе с Гессом и несколькими членами Австрийского легиона. Их сопровождал самолет с эсэсовцами. В 4 часа утра Гиммлер, как первый представитель нацистского правительства, был уже в Вене. Вскоре к ним присоединился Гейдрих, который прибыл на личном самолете. Гестапо расположило свой главный штаб на Морцинплац. Канцлер Шушниг содержался там под стражей несколько недель, очень страдая от грубого обращения. Позже он был отправлен в концлагерь, где пробыл до мая 1945 года. С начала апреля Гиммлер и Гейдрих занялись созданием концентрационного лагеря в Австрии – это был Маутхаузен, зловещая репутация которого распространилась по всему миру.
В помещениях гестапо содержался и другой известный заключенный – барон Фердинанд фон Ротшильд; его арестовали одним из первых, а его дворец на Ауфдер-Виден заняли службы СД. Гейдрих заявил, что барон должен рассматриваться как его личный пленник. Пищу ему поставлял один венский трактирщик, поэтому многие терялись в догадках по поводу таких привилегий. По-видимому, объяснение надо искать в том, что барон был связан с герцогом Виндзорским, который приезжал к нему в Вену после отречения в декабре 1936 года. Между тем Гитлер старался расположить к себе некоторые британские круги. Дочь лорда Редесдейла, эксцентричная Юнити Митфорд, одно время входила в число его близких друзей. Вполне вероятно, что мягкие условия заключения барона Ротшильда, друга бывшего короля Эдуарда VIII, определялись некоторыми намерениями в отношении Англии.
Между тем Гейдрих воспользовался этим обстоятельством, чтобы провернуть выгодную операцию, и добился от барона отказа от его имущества в Германии в обмен на разрешение покинуть рейх и уехать в Париж.
Чистка началась утром 12 марта, и во время нее задача Шелленберга заключалась в том, чтобы захватить коды и архивы шефа австрийской секретной службы полковника Ронге, опередив сотрудников военной разведки, которые должны были прибыть вместе с первыми армейскими подразделениями.
В Вене толпа аплодировала «победителям», социалисты ждали развития событий, а евреи, зная о мерах, принятых против их единоверцев в Германии, бежали или кончали жизнь самоубийством. Так же поступали многие представители бывшего австрийского правящего класса. Число жертв никогда не публиковалось, но их наверняка было несколько сотен. К этому надо добавить большое число людей, уничтоженных нацистскими убийцами в течение первых трех дней оккупации.
