Во время аншлюса Австрии в марте 1938 года Скорцени совместно с подразделениями СА захватил резиденцию президента Австрии Вильгельма Микласа, но его роль при этом до конца остается неясной. Когда после начала войны неудачей закончилась его попытка попасть в одну из авиашкол, готовящих пилотов Люфтваффе, он добровольно вступил в войска СС. Сначала получил назначение в резервный батальон подразделения лейб-штандарте СС «Адольф Гитлер». В мае — июне 1940 года в качестве унтер-офицера артиллерийского полка резервного дивизиона СС участвовал в боевых действиях в Голландии, Бельгии и Франции. В апреле следующего года в рядах дивизии «Рейх» воевал в Югославии. По счастливому стечению обстоятельств он дважды был молниеносно повышен в воинском звании, сначала до унтерштурмфюрера СС (лейтенанта), а затем — оберштурмфюрера СС (старшего лейтенанта). С июня 1941 до начала 1942 года Скорцени служил на Восточном фронте все в той же дивизии «Рейх». По состоянию здоровья он был отправлен в рейх на лечение. Весной 1943 года как выздоравливающий получил назначение в расквартированный в Берлине резервный батальон дивизии лейб-штандарте СС «Адольф Гитлер».
В тот момент для Скорцени, принявшего командование спецбатальоном, наступил перелом в его до сих пор блеклой военной карьере. Одновременно он получил звание хауптштурмфюрера СС (капитана). Всего лишь через полгода, проявляя, бесспорно, большую изобретательность и энергию, этот высокий (195 см), широкоплечий мужчина со шрамом на лице сделался одним из наиболее известных офицеров войск СС. После успешной молниеносной акции по освобождению Бенито Муссолини в сентябре 1943 года его фотографии появились во многих немецких газетах. Пропаганда Третьего рейха создала образ очередного военного героя, офицера — образец для подражания для немецкой молодежи. После войны та же пресса назвала его «самым опасным человеком в Европе».
После ареста дуче в Италии 25 июля 1943 года Германия пришла к выводу, что итальянское правительство намеревается разорвать союзнические отношения с Третьим рейхом. Чтобы это предотвратить, необходимо было, прежде всего, освободить Муссолини. Гитлер выбрал для этого задания Скорцени, который блестяще с ним справился. Операция носила условное название «Дуб», и хауптштурмфюрер СС Скорцени руководил ею непосредственно. Солдаты, атаковавшие гостиницу «Кампо Императоре» в горном массиве Гран-Сассо, в большинстве являлись все-таки военнослужащими 1-го батальона 7-го полка воздушно-десантных частей Люфтваффе под командованием майора Отто-Гарольда Морза, а не солдатами войск СС. Об удачном исходе акции первым сообщил Гитлеру рейхсфюрер СС Генрих Гиммлер, который все заслуги по освобождению Муссолини приписал Скорцени и его солдатам, обходя молчанием усилия автоматчиков-парашютистов. После акции в Гран-Сассо Скорцени был повышен по службе и получил очередное воинское звание штурмбаннфюрера СС (майора), а также Рыцарский крест к уже имеющемуся Железному.
