Абвер имел разветвленный периферийный аппарат как в самой Германии, так и за границей. Основными его звеньями в Германии были специальные отделы, т. н. «Абверштелле», создававшиеся при штабах военных округов и военно-морских баз. Они специализировались на разведывательной и контрразведывательной деятельности по определенным районам. За границей разветвленную систему периферийных органов Абвера составляли резидентуры в странах-противниках, а также т. н. "военные организации" ("Kriegsorganisation" — KO) в нейтральных и некоторых союзных государствах (Турция, Иран, Греция, Румыния, Болгария, Португалия, Испания, Швейцария, Финляндия, Аргентина и др.). Главное назначение этих органов — ведение подрывной деятельности против государств, считавшихся нацистским руководством враждебными. КО включали в себя подразделения «A-I», "A- II" и «A-III», которые размещались обычно в германских посольствах и консульствах, но в оперативном отношении были от них независимы.
До начала и в первый период 2-й мировой войны Абвер, несмотря на острую конкуренцию других разведслужб (прежде всего СД — службы безопасности нацистской партии), был центральным органом ведения разведдеятельности за рубежом. Он сыграл большую роль в подготовке и обеспечении успеха гитлеровской агрессии против государств Европы. После захвата Австрии (см. Аншлюс) и Чехословакии усилия Абвера были сосредоточены на выполнении директивы Верховного главнокомандования вооруженными силами (ОКВ) о нападении на Польшу (см. план "Вайс"). При участии Абвера была подготовлена известная провокация в Глейвице, послужившая предлогом для нападения Германии на Польшу (см. Глейвицкий инцидент; "Консервы"). Абвер активно участвовал в подготовке агрессии против Дании, Норвегии, Бельгии, Нидерландов и др.
Накануне агрессии против СССР Абвер провел ряд мероприятий по плану «Барбаросса», значительно расширил масштабы деятельности по добыванию разведывательной информации об СССР, готовил специальные диверсионные группы для ведения подрывной деятельности в тылу, маскировал военные приготовления к нападению на Советский Союз. В июне 1941 был создан т. н. "штаб Валли" для непосредственного руководства разведдеятельностью на советско-германском фронте. В 1942 был создан "зондерштаб Р", предназначенный главным образом для борьбы с партизанским движением, разведчиками-парашютистами и ведения пропаганды среди населения оккупированных территорий. 14 февраля 1944 в связи с рядом неудач Абвера в деятельности против СССР и в результате конкурентной борьбы с другими органами разведки, а также с падением доверия нацистской верхушки к Канарису вышел декрет о расформировании Абвера. Этим декретом Абвер делился на части, отходившие к разным ведомствам, — в основном в состав Главного управления имперской безопасности (РСХА).
