На пост председателя РОВС вступил генерал-лейтенант Евгений Карлович Миллер, командовавший в 1919-20 годах войсками Северной области. В 1922-23 годах он был начальником Штаба Врангеля.
22 сентября 1937 года в Париже он был похищен агентами НКВД и тайно вывезен в СССР. После отказа выступить с открытым письмом, призывающим эмиграцию отказаться от борьбы с большевиками, Миллер был расстрелян 11 мая 1939 года {{ Там же.}} .
До марта 1938 года во главе РОВС находился генерал-лейтенант Федор Федорович Абрамов. Он добровольно сложил с себя обязанности председателя в связи с попытками советских спецслужб дискредитировать его.
Абрамова сменил генерал-лейтенант Алексей Петрович Архангельский, который будет возглавлять РОВС на протяжении Второй мировой войны и после нее.
Архангельский был выпускником Александровского военного училища и Николаевской академии Генерального штаба. Как профессиональный генштабист, он с 1898 по 1918 год занимал ряд ответственных должностей. После прихода большевиков к власти продолжал руководить Управлением по командному составу. Этот пост он использовал для того, чтобы предупреждать генералов и офицеров о готовящихся арестах ЧК и тайно переправлять группы офицеров в Добровольческую армию.
В феврале 1919 года, используя подложные документы, Архангельский сам прибыл в распоряжение Деникина и настоял на том, чтобы предстать перед военно-полевым судом. Суд не только оправдал генерала, но и высоко оценил его заслуги перед Белым движением.
В 1919-20 годах Архангельский служил в Военном управлении Вооруженных Сил Юга России, в 1920-26 возглавлял Отделение личного состава Штаба Врангеля. С 1927 состоял председателем Общества офицеров Генерального штаба в Бельгии.
При Архангельском РОВС впервые получил возможность проверить реальность своего плана привлечения военнослужащих Красной Армии на свою сторону. Эта возможность возникла в связи с войной начатой Советским Союзом против Финляндии 30 ноября 1939 года. В. В. Орехов, главный редактор журнала «Часовой», писал: «Наш долг – долг русской эмиграции – принять посильное участие в борьбе с большевизмом, всегда, везде и при всяких обстоятельствах. Не надо преувеличивать свои силы: никаких армий и никаких корпусов мы выставить не можем, единственно, что можно сделать – это создать значительный русский отряд под нашим флагом, который привлечет к себе русских людей, ненавидящих советскую власть… И если Финляндия захочет нашей помощи, мы должны будем вложиться в эту борьбу, памятуя, что каждая пуля против красной армии нам выгодна, каждый удар по большевикам идет на пользу России и каждая неудача Сталина – радость русского народа…» {{ Орехов В.В. Мысли белогвардейца // Политическая история русской эмиграции. 1920-1940 гг.: Документы и материалы / Под ред. А.Ф.Киселева. — М.: Гуманит. изд. центр ВЛАДОС, 1999. — С. 64-65. }} .
