В Сербии, где настроения эмиграции в начале войны были наиболее воинственными, германские власти дали санкцию на создание Русского охранного корпуса для поддержания порядка и борьбы с партизанами. В формировании корпуса активное участие принял кубанский войсковой атаман В.Г. Науменко, предложивший провести мобилизацию казаков-эмигрантов в обязательном порядке. К началу ноября 1941 г. в составе корпуса числилось около 300 казаков, к концу года их число выросло до 1200, а к концу следующего, 1942 г., достигло 2 тысяч. Первоначально в составе корпуса предполагалось формировать отдельную конную казачью бригаду, однако этот проект не был реализован и казаки были распылены по всем полкам, батальонам и ротам корпуса. Когда в конце 1942 г. корпус был включен в состав Вермахта и почти все казаки по ходатайству войсковых атаманов были сведены в 1-й Казачий полк под командованием генерала В.Э. Зборовского. Этот полк считался одним из лучших и к началу 1944 г. имел более 80 % наград германского командования, которых были удостоены чины корпуса.
Опыт использования казачьих частей на Восточном фронте показал практическую ценность подобных формирований, и германское командование решило сформировать первое в восточных войсках крупное соединение, способное решать самостоятельные боевые задачи — казачью дивизию. 8 ноября 1942 г. во главе соединения, которое еще предстояло создать, был назначен полковник Гельмут фон Паннвиц — блестящий кавалерийский начальник, к тому же хорошо владевший русским языком. Осуществить план по формированию соединения уже в ноябре помешало советское наступление под Сталинградом, и приступить к его реализации удалось лишь весной 1943 г. — после отхода немецких войск на рубеж реки Миус — Таманский полуостров и относительной стабилизации фронта. Казачьи части были собраны в районе Херсона и пополнены за счет многочисленных казаков-беженцев. Следующим этапом стало сведение их в отдельное войсковое соединение. Первоначально было сформировано четыре полка: 1-й Донской, 2-й Терский, 3-й Сводно-казачий и 4-й Кубанский — общей численностью до 6000 человек.
21 апреля 1943 г. германское командование отдало приказ о формировании 1-й Казачьей кавалерийской дивизии, в связи с чем сформированные полки были переброшены на учебный полигон Милау (Млава), где еще с довоенных времен находились склады снаряжения польской кавалерии. Сюда же прибыли лучшие из фронтовых казачьих частей — полки «Платов», «Юнгшульц», 1-й Атаманский полк Вольфа и 600-й дивизион Кононова, Эти части расформировывались, а их личный состав сводился в полки по принадлежности к Донскому, Кубанскому и Терскому казачьим войскам. Исключение составил дивизион Кононова, включенный в дивизию как отдельный полк.
