А уже 8 февраля последовал приказ о формировании Грузинского легиона (центр формирования в Крушне) и Армянского легиона (центр формирования в Пулавах).
Первоначально Туркестанский легион объединял в своих рядах узбеков, казахов, киргизов, туркмен, каракалпаков и таджиков. Кавказско-магометанский легион — азербайджанцев, дагестанцев, ингушей и чеченцев. Грузинский легион, кроме грузин, включал осетин, абхазов, адыгейцев, черкесов, кабардинцев, балкарцев и карачаевцев. Лишь Армянский легион имел однородный национальный состав.
Чтобы сделать легионы более мононациональными по составу, 2 августа 1942 г. Кавказско-магометанский легион был переименован в Азербайджанский, а из его состава, как и из состава Грузинского легиона, были выведены представители горских народов, объединенные в Северокавказский легион (центр формирования в Весоле). Кроме того, 15 августа 1942 г. в Едлине был организован Волжско-татарский легион, объединивший в своих рядах поволжских татар, башкир, марийцев, мордву, чувашей и удмуртов.
Хотя Грузинский и Армянский легионы перестали, таким образом, быть чисто мусульманскими, в немецких нормативных документах они продолжали учитываться в качестве восточных легионов.
Общее руководство формированием и обучением национальных легионов осуществлял Штаб подготовки восточных легионов (Aufstellungsstab der Ostlegionen), который 23 января 1943 г. был переименован в Штаб командования восточными легионами (Kommando der Ostlegionen). Зимой — весной 1942 г. этот штаб располагался в Рембертове, а летом был переведен в Радом. Командующим восточными легионами в Польше был назначен полковник Р. фон Гейгендорф. Первоначально он обладал правами полкового, а с 1943 г. дивизионного командира.
В своих действиях по организации и подготовке восточных легионов полковник Гейгендорф руководствовался Директивой для формирования восточных легионов, которую 24 апреля 1942 г. издал начальник общего управления командования армии резерва генерал-от-инфантерии Ф. Ольбрихт.
Основным контингентом для пополнения восточных легионов, по крайней мере до того момента, пока немецкие войска не вступят на Кавказ и в Среднюю Азию, должны были быть советские военнопленные соответствующих национальностей. В основном их отбором и сортировкой занимались специально созданные немецкие инстанции. Так, еще весной 1942 г. был сформирован Организационный штаб «К» (»Кавказ»), который развернул активную деятельность по вербовке добровольцев среди военнопленных — уроженцев Кавказа и Средней Азии. В его задачи входило создание комиссий по «фильтрации лагерей военнопленных» и «отделение лиц кавказской национальности от русских для последующей… вербовки».
