В декабре 1918 года он вместе с казаками своего полка бросает фронт и возвращается домой, в станицу Вешенская. Там он волей судьбы принимает деятельное участие в Верхнедонском восстании казаков 1919 года, вспыхнувшем 12 марта. Сперва хорунжий Харлампий Ермаков избирается командиром повстанческой сотни, затем командиром казачьего полка, а затем и дивизии. Это было восстание казаков, которые устали и от белых, и от красных. После смерти атамана Каледина новый атаман Богаевский производит его в есаулы. Богоевский поддерживает белых. В марте 1920 года Ермаков попадает в плен к красно-зелёным и принимает сторону красных. Богоевский был не самой популярной среди казаков фигурой. В 1921 году Ермаков Х.В. продолжает обучение и проходит красные курсы в Таганроге. В составе 1-й конной армии он сначала командует эскадроном, а затем полком. Командарм Будёный награждает его за храбрость и личное мужество именным серебряным оружием – шашкой и именными часами.
Для всех людей, особенно военных, это было труднейшее время. Все прежние заслуги перед Отечеством, чины, звания, награды – всё в один момент стало ненужным и даже опасным. В званиях повышали и красные, и белые. И там и там пройдохи и проходимцы росли как на дрожжах. Присваивая чины и звания, и те и те убеждали, что именно они настоящая власть. Белые власть пытались удержать, красные – отобрать. Этот период кратко и чётко выразил генерал Шкуро. Однажды его спросили, почему он в таких годах, а всё генерал-майор, тогда как более молодые имеют более высокие звания. Генерал отвечал: «Мне генеральское звание давал Царь-батюшка, а не приятели». В этом коротком ответе вся суть того времени. Таких как генерал Шкуро, веривших, что, его звание освящено с неба и уж этим выше, было немного. Генерал Шкуро высказал главную мысль, – «приятели». Приятели были с двух сторон. С одной стороны были приятели по царским ссылкам, каторгам и тюрьмам. С другой, в приятелях были те, кто их туда определял.
Харлампий Васильевич Ермаков не вписывался ни в те, ни в другие приятели. Он был казак, профессиональный военный, с огромным боевым опытом. Он был очень далёк и от политики, и от понимания приятельских отношений. Поэтому, сначала полевой суд «белых приятелей» приговорил его к расстрелу. От расстрела его спасло ходатайство брата – сотника Емельяна Ермакова, и, конечно, его сотня. Потом, в 1923 году, его арестовывают «красные приятели», но станичники его вновь спасают от расстрела. Но приятельские отношения выводили «неприятеля», а в то время это были все профессионалы своего дела, под корень. В 1927 году его вновь арестовывают «красные приятели» и быстро по приговору коллегии ОГПУ – расстреливают. Видимо, где-то с 1923 по 1927 год состоялась встреча Шолохова и Ермакова. Рассказ Харлампия о службе в четырёх армиях: Российской императорской, казачьей, белой и красной поразил своим трагизмом Шолохова и дал идею написания романа «Тихий Дон».
