Отдел «Валли-3» руководил всей контрразведывательной деятельностью подчиненных ему абверкоманд и абвергрупп по борьбе с советскими разведчиками, партизанским движением и антифашистским подпольем на оккупированной советской территории в зоне фронтовых, армейских, корпусных и дивизионных тылов.
Кроме абверкоманд, в непосредственном подчинении штаба «Валли» находились: Варшавская школа по подготовке разведчиков и радистов, переведенная затем в Восточную Пруссию в местечко Нойгоф; разведывательная школа в местечке Нидерзее (Восточная Пруссия) с филиалом в городе Арисе, организованная в 1943 году для подготовки разведчиков и радистов, оставляемых в тылу наступающих советских войск. В отдельные периоды штабу «Валли» придавался специальный авиационный отряд майора Гартенфельда, имевший от четырех до шести самолетов для заброски в советский тыл агентуры.
Тайная полевая полиция – «Гехаймфельдполицай» (ГФП) являлась полицейским исполнительным органом военной контрразведки в действующей армии. Тайная полевая полиция выполняла функции гестапо в зоне боевых действий, а также в ближних армейских и фронтовых тылах. В ее задачу входило главным образом производство арестов по указанию органов военной контрразведки, ведение следствия по делам о государственной измене, предательстве, шпионаже, саботаже, антифашистской пропаганде среди военнослужащих немецкой армии, а также расправа с партизанами и другими советскими патриотами, боровшимися против фашистских оккупантов.
По мере расширения театра военных действий Абвер начал испытывать острую нехватку подготовленных кадров. В силу этих обстоятельств военная разведка не сумела своевременно доложить ни о передислокации советских войск под Сталинградом, ни о высадке союзников в Северной Африке и в Италии. Кроме того, в этот период английская разведка сумела перевербовать нескольких германских агентов, работающих в Великобритании, и Абвер захлестнул поток дезинформации. Все это привело к тому, что в начале 1944 года по приказу Гитлера Абвер перешел в подчинение рейхсфюреру Генриху Гиммлеру.
Неудавшееся покушение на Гитлера 20 июля 1944 года вызвало волну арестов среди высшего офицерства. Хотя Канарис не являлся активной фигурой заговора, его отстраняют от службы. Несколько дней он находится под домашним арестом. Однако положение адмирала усугубилось, когда в одном из бункеров военного лагеря Абвера сотрудники РСХА обнаружили секретный архив с некоторыми материалами о тайном сопротивлении фюреру, а также 20 страниц личного дневника Канариса.
