Приказ о создании РОВС предписывал сформировать пять Отделов в конкретно названных европейских странах. I Отдел объединял белоэмигрантов, проживающих в Англии, Франции, Бельгии, Италии, Чехословакии, Дании и Финляндии. II Отдел – в Германии и Венгрии. III – в Польше, Данциге, Литве, Эстонии и Латвии. IV – в Королевстве Сербов, Хорватов и Словенцев (так до 1929 года называлась Югославия), а также в Греции. V Отдел – в Болгарии и Турции. В связи с массовыми перемещениями российских эмигрантов по Европе в 1920-30-е годы, распределение Отделов РОВС по странам менялось. К 1938 году существовало шесть европейских Отделов: I – «французский», II – «германский», III – «болгарский», IV – «югославский», V – «бельгийский» и VI – «чехословацкий».
В состав Отделов РОВС входили объединения бывших однополчан, участников тех или иных важных событий Первой мировой и Гражданской войн: Союз участников Первого Кубанского похода генерала Корнилова, Галлиполийское Землячество в Брно, Общество Галлиполийцев в Словакии и другие. Были объединения, созданные по родам войск: Общество русских офицеров-артиллеристов в Югославии, Морская группа в Праге, Морской кружок «3вено», Объединение кавалерии и конной артиллерии в Праге… Объединения по профессиональному признаку: Пшибрамскии союз русских горных инженеров, Союз русских врачей, Союз русских сестер милосердия. Наконец, существовали военные объединения, создаваемые просто по месту проживания: Русский Воинский Союз в Праге, Русская Воинская Группа в Градеце Карлове и другие.
По данным Штаба РОВС в 1920-е годы в организации состояло 100 тысяч человек {{ Политическая история русской эмиграции… — С. 7; Шкаренков Л.К. Указ. соч. – С. 124.}} . На протяжении 1920-30-х годов в состав РОВС включались группы участников Белого движения, проживавшие не только в Европе, но также в США, Южной Америке, Китае и других странах и регионах. Создавались новые Отделы.
Количество организаций в составе РОВС постоянно увеличивалось, но при этом общая численность организации снижалась – многие утрачивали контакт со структурами РОВС. В этом проявились две тенденции, характерные для российской военной эмиграции. Часть ветеранов Белого движения переставала надеяться на возобновление борьбы с большевиками, погружалась в частную жизнь. Но другие, не отказавшиеся от идеи «весеннего похода», демонстрировали стремление к консолидации. К 1937 году РОВС насчитывал 13 отделов и подотделов, и объединял в себе около 30 тысяч человек {{ Русские во Франции. Справочник / Ред. В.Ф.Зеелер. — Париж: Изд. С.М.Сарач, 1937. — С. 86.}} . При сокращении численности, организация становилась более монолитной и целеустремленной.
