В 1998 году Герман Алексеевич был переведен в Москву и на следующий год возглавил Департамент по защите конституционного строя и борьбе с терроризмом. Понятно, что главным объектом для него стала Чечня. Угрюмов лично отвечал за работу спецслужб в кавказском регионе. В его оперативном подчинении находился Центр специального назначения ФСБ, в который на правах управлений входят знаменитые группы "Альфа" и "Вымпел".
А. Ладанюк, офицер ФСБ.
— Его неповторимость в разработке операций приводила в бешенство чеченских боевиков. Для разработки операций он выезжал в самые отдаленные районы Чечни, находящиеся под контролем бандгрупп. Ребята из "Альфы" и "Вымпела" поражались его мужеству и готовы были лететь или ехать с ним куда угодно. Мы неоднократно фиксировали радиоперехваты вроде этого: "Э, слюшай, что у вас там дэлается! Куда вы смотрите, если вчера у вас под носом крутился этот толстый адмирал? Почему не замочили? Разъезжает, наглец, по Чечне, как у себя дома!.." Были указания от разных полевых командиров чеченскому спецназу: взять "толстого адмирала" в заложники, на худой конец — пристрелить или взорвать. Наша служба всякий раз предотвращала покушения на него. За голову Германа Алексеевича была обещала огромная сумма в американской валюте.
Имя его в полную мощь прозвучало, когда во всех СМИ прошла информация о захвате Салмана Радуева, которого в результате операции, разработанной Угрюмовым, взяли без единого звука в доме у любовницы. "Главное, что он успел сделать в Чечне, — это сорвать амбициозные планы террористов по захвату городов, проведению контрнаступлений в широкомасштабных диверсий. Это ведь при нем была здорово "почищены" полевые командиры среднего звена", — сказал уже после смерти адмирала заместитель полпреда России в Южном округе Николай Бритвин.
Из Чечни Герман Алексеевич практически не вылезал: домой прилетал на пару дней и отправлялся обратно. Солнечным днем 31 мая он вышел из вагончика, потирая ладонью левую сторону груди, присел на стул у входа и вдруг, тихо охнув, стал падать. Находящийся рядом офицер успел подхватить его. Адмирала уложили на землю, едва ли не в ту же минуту рядом о ним уже был врач из группы "А", который сделал прямой укол кардиамина в сердце. Подбежали другие доктора, и пока они пытались вернуть Героя к жизни, у адмиральского вагончика на коленях стоял боевой офицер, прошедший не одну "горячую точку" и повидавший немало смертей, и, плача, громко молился: “Господи Боже мой, если ты только есть, оставь его живым! Господи, оставь его живым! Не дай ему умереть, Господи!”
