По своей структуре и роду деятельности ГРУ не отличалось от военных разведывательных органов иностранных армий. Его главными агентами за рубежом были военные, военно-воздушные и военно-морские атташе и их сотрудники. В числе его подразделений в Москве были такие, которые занимались руководством заграничными агентами, отбором и оценкой информации, радиосвязью, кодами, диверсиями, фальшивыми документами и другими вопросами. Некоторые агенты ГРУ были хорошо известны: Клаус Фукс, супруги Розенберг, Рихард Зорге, Бруно Понтекорво и те русские, с которыми они имели контакты, как, например, Анатолий Яковлев, Валентин Губичев и многие другие.
Четкого разделения функций между НКВД и ГРУ никогда не существовало. Формально армия и флот, мобилизационные планы и новые виды вооружения относятся к области военной разведки, а идеологические операции, соглашения, секретные договоры — к области интересов НКВД. Но на самом деле их функции все время перекрывались, и сфера полномочий никогда точно не определялась, что было отнюдь не случайно.
НКВД всегда преобладала над другими структурами, она могла рекрутировать информаторов из их персонала и внедрять туда своих людей, когда считала это необходимым. Армия не составляла исключения, все ее подразделения были насыщены информаторами НКВД. Не было ни одного батальона или офицерского клуба, где не было бы «внутреннего» информатора НКВД. Это в равной мере относится и к разведывательным структурам ГРУ за границей. НКВД за рубежом тщательно следит за персоналом военной разведки — военными атташе, их сотрудниками и агентами, их корреспонденцией и общественными контактами. Армия не имеет равных с НКВД прав, она не может проникнуть в ее подразделения или следить за ее персоналом, не может никого из них арестовать или наказать. Она постоянно находится под угрозой террора, но лишена возможности применить контрмеры. Агенты ГРУ каждый день рискуют жизнью в своей тайной работе за рубежом, находясь под неусыпным, безжалостным и раздражающим надзором соперничающей структуры.
Длительное время Сталин поддерживал нечто вроде шаткого баланса между армией и НКВД, поощрял соперничество между ними, что распространялось и на их зарубежные структуры, возбуждал взаимную подозрительность. Сталин не мог отдать предпочтение армии, потому что победа военных в их конфликте с НКВД означала бы ослабление жесткого партийного руководства и угрожала подрывом его власти. Но точно так же было невозможно отдать армию на съедение НКВД, что разрушило бы советские вооружённые силы. До середины 30-х годов НКВД и военная разведка сосуществовали относительно мирно, хотя их внешние органы работали в условиях жестокой конкуренции. Но в 1936–1937 годах Сталин нарушил это равновесие. Дело Тухачевского, сфабрикованные заговоры с их ужасающими подробностями, аресты и ссылки тысяч военных означали победу и отмщение НКВД над своим заклятым врагом — армией. В чистке, которая последовала за делом Тухачевского, большое число лучших военных разведчиков кануло в вечность. И к 1938–1939 годам ослабленное и беспомощное ГРУ предстало перед торжествующей победу НКВД.
