Однако в полной мере сформировать дивизию не удалось из-за поражения Добрармии в районе Курска и Орла и последовавшего затем общего отступления. По пути в Новороссийск в марте 1920 г. остатки Сводно-Гренадерской дивизии были объединены с алексеевцами. После эвакуации с Черноморского побережья алексеевцы были перевезены в Крым, где 25 марта (7 апреля) дивизия была переформирована в Отдельную Партизанскую генерала Алексеева пехотную бригаду. После неудачного боя в г. Геническе к 5(18) мая бригада была расформирована, а оставшиеся алексеевцы составили 2-й Алексеевский батальон 52-го пехотного Виленского генерала Алексеева полка, в составе которого несли охрану Азовского побережья.
9(22) мая уцелевший 1-й дивизион Алексеевской артбригады был переименован в Алексеевский дивизион 13-й артбригады 13-й пехотной дивизии. 7(20) июля дивизион 13-й артбригады был перечислен из нее и переформирован в Отдельный Алексеевский артдивизион Сводной дивизии и в ее составе принял участие в десанте на Кубань.
14(27) июня из Виленского полка было приказано выделить кадры бывших 1-го и 2-го Партизанских генерала Алексеева пехотных полков, сформировать из них 1-й Партизанский генерала Алексеева пехотный полк и подчинить его командиру крепости Керчь. 1(14) августа полк под командованием полковника П.Г. Бузуна, находясь в составе Сводной дивизии генерал-лейтенанта Б.И. Казановича, входившей в Группу войск особого назначения генерал-лейтенанта С.Г. Улагая, высадился на Кубани и, участвуя во всех боях, понес большие потери. По возвращении из десанта 4(17) сентября Отдельный Алексеевский артдивизион был переименован в Алексеевский артдивизион 7-й пехотной дивизии, а Алексеевский полк был отправлен за Днепр к г. Александровску.
В ноябре 1920 г. после эвакуации из Крыма в Галлиполи из уцелевших алексеевцев и остатков 6-й, 7-й, 13-й и 34-й пехотных дивизий и чинов Гвардейского отряда был сформирован Партизанский генерала Алексеева пехотный (Алексеевский) полк. В 1921 г. он был перевезен в Болгарию, а в 1922 г. прекратил существование как воинская часть.
Еще одна алексеевская часть — 1-й Конный (или Конно-Партизанский) полк — был сформирован во время 1-го Кубанского похода 25 марта (7 апреля) 1918 г. из 1-го (бывшего 1-го кавалерийского полковника B.C. Гершельмана) и 2-го (бывшего 2-го кавалерийского полковника П.В. Глазенапа) конных дивизионов. Командиром его был назначен полковник Глазенап. После возвращения из похода полк весной — летом участвовал в боевых действиях в Донской области и во 2-м Кубанском походе. Затем он был переброшен на Черноморское побережье; им в это время командовал полковник В.П. Глиндский. 14(27) февраля 1919 г. 1-й Конный полк был переименован в 1-й Конный генерала Алексеева полк, а 7(20) апреля его командиром был назначен полковник Сабуров.
