В морозный день 6 января Буденный отдал приказ об овладении Ростовом. Завязались ожесточенные бои. Под ударами частей 9-й стрелковой и 11-й дивизий пал Таганрог, белые отступили к Ростову, надеясь, что подступы к этому городу надежно защищены. На город наступала 6-я кавдивизия Семена Тимошенко, и Буденный решил вместе с Ворошиловым быть в ее рядах, чтобы непосредственно руководить наступлением, а Щаденко он направил в 11-ю кавдивизию. Собрались ехать, а тут в штаб армии поступило донесение о том, что 15-я и 16-я стрелковые дивизии 8-й армии, наступавшие в Ростовском направлении, в бою с конницей белогвардейцев понесли большие потери и отступили в район расположения 4-й кавдивизии. Противник мог использовать этот частичный успех, если не принять срочных мер. Буденный приказал командиру автобронеотряда Аргиру и автоброневикам Войткевича немедленно «опрокинуть вражью конницу». 11-ю кавдивизию он направил в район Чалтырь — Крым с тем, чтобы она охватила левый фланг противника.
4-я кавдивизия без единого выстрела вышла в район хутора Ольгинский — Волошино и, круто повернув назад, нанесла внезапный удар по флангу и тылу противника. Когда Буденному, находившемуся в штабе 6-й кавдивизии, стало об этом известно, он обрадовался: «Ну и Городовиков, ну и молодчина! А что, Климент Ефремович, любит наш Ока фланговые удары по врагу? Вот оно, искусство боя — уметь навязать противнику свою волю».
Вечером 8 января части Конармии ворвались в Ростов. Белогвардейцы, застигнутые врасплох, не смогли оказать им упорного сопротивления. 11 января Реввоенсовет Конармии отправил донесение Реввоенсовету Южного фронта и В. И. Ленину: «Красной Конной армией 8 января 1920 г. в 20 часов взяты города Ростов и Нахичевань. Наша славная кавалерия уничтожила всю живую силу врага, защищавшую осиные гнезда дворянско-буржуазной контрреволюции. Взято в плен больше 10 ООО белых солдат, 9 танков, 32 орудия, около 200 пулеметов, много винтовок и колоссальный обоз…»
Утром 12 января на окраине Ростова выстроились полки Конармии. Буденный громко читал телеграмму Реввоенсовета Южного фронта, присланную по случаю освобождения Ростова. В ней говорилось, что беззаветное мужество и доблесть героев Конной армии вернули Советской России Ростов. Красное знамя развевается на стенах бывшего очага заклятых врагов русского трудового народа. «Братски жмем руку красным богатырям, несущим знамя освобождения Кавказу. Обнимаем товарищей Буденного, Ворошилова, Щаденко».
