Изучая дела тех лет, я поняла, какие глубокие планы он разрабатывал, сколько интересных комбинаций придумывал и как строго следил за их осуществлением. Я поняла также, как трудно ему было работать, особенно в последние годы, как мало средств выделяли ему на наше дело и как мало интересовались нашей работой «наверху». И, наконец, деятельность военной разведки во время войны показала, что стабильно работали ее фундаментальные организации, созданные под руководством Берзина. Некоторые из них продержались всю войну и добывали ценную информацию» (Полякова М. И. По заданию Я. К. Берзина // Военно-исторический журнал. М., 1990. № 3. С.61-62).
Однако в работе военной разведки были и недостатки, которые отозвались серией громких провалов и закончились проверкой работы Разведупра комиссией ЦК. Как это бывает, к реальным недочетам были приписаны и выдуманные, а некоторые реальные — раздуты. Для исправления положения в 1934 — 1936 годах в Разведупр была направлена группа чекистов (главным образом из ИНО) во главе с А. Х. Артузовым. 25 декабря 1934 года Берзин был назначен на должность начальника Разведупра РККА «в связи с переходом центральных управлений НКО СССР на новую организационную структуру», а 15 апреля следующего года он «согласно его просьбе освобожден от занимаемой должности» и через 5 месяцев назначен «вторым заместителем по политической части командующего войсками ОКДВА (для руководства работой разведки)». То есть, с явным понижением в должности отправлен в «почетную ссылку». Начальником Разведотдела Особой Краснознаменной Дальневосточной армии, место дислокации которой приравнивалось к военному округу, и его заместителем были старые сотрудники Яна Карловича — А. Ю. Гайлис (Валин) и Х. И. Салнынь. В аппарате РО и в сопредельных странах действовали знакомые ему по прежней работе Р. Зорге, И. А. Ринк, Г. И. Гилев, Н. Д. Лухманов, Н. П. Вишневецкий, Х. Боев (Русев), Э. Д. Лепин, К. А. Батманов, Г. М. Цатуров и другие.
В полночь, 18 июля 1936 года радиостанция города Сеуты (Испанское Марокко) передала в эфир фразу: «Над всей Испанией безоблачное небо». Это был сигнал к мятежу генерала Франко против Испанской республики. Разращилась длившаяся три года тяжелая и кровопролитная гражданская война.
Германия и Италия сразу же открыто поддержали мятежников. Началась интервенция. На стороне республиканцев выступил Советский Союз, явно на словах и тайно на деле. Конечно, присутствие советского оружия и советских военных в Испании было секретом полишинеля, тем не менее, конспирация упорно соблюдалась.
