Николай I не мог простить Ермолову самостоятельности суждений, постоянных критических замечаний о любимой им, царем, прусской военной системе и язвительных острот по адресу многих видных деятелей его империи.
Рассказывая о зарождении антипатии Николая I к Ермолову, Д. В. Давыдов приводит следующий эпизод: «Ермолов никогда не пользовался благоволением императора Николая Павловича, почитавшего его человеком опасным по либеральному образу мыслей. Он возымел это мнение с самого 1815 г. При вступлении в Париж одной дивизии корпуса, которым командовал Ермолов, император Александр остался недоволен фронтовым образованием одного из полков, вследствие чего последовало повеление посадить трех штаб-офицеров на гауптвахту, занятую в тот день английскими войсками. Ермолов горячо заступился за них, говоря, что если они заслуживают наказания, то их приличнее арестовать в собственных казармах, но не следует срамить трех храбрых штаб-офицеров в глазах чужеземцев; „таким образом нельзя приобрести любви и расположения войск“, – сказал он. Государь остался непреклонен. Ермолов, не исполнив высочайшего повеления, отправился в театр, куда прибыл адъютант кн. П. М. Волконского, Чебышев, – с приказом тотчас арестовать виновных. Встретив там вел. кн. Николая Павловича, Ермолов сказал ему: „Я имел несчастье подвергнуться гневу его величества. Государь властен посадить нас в крепость, сослать в Сибирь, но он не должен ронять храбрую армию в глазах чужеземцев. Гренадеры прибыли сюда не для парадов, но для спасения Отечества и Европы“. Слова эти, столь неблагоприятно отразившиеся для Ермолова через 10 лет, были, вероятно, переданы государю, потому что он приказал приготовить в занимаемом им дворце Elysйe Bouzbon три кровати для арестованных. Вел. кн. Николай Павлович сказал однажды покойному императору, что этот самостоятельный и энергичный наместник на границе государства весьма неблагонадежен…»
Удаление с Кавказа Ермолова, достигшего всего 49 лет и бывшего в полном расцвете своих способностей, произвело большое впечатление на русское общество, в котором он был очень популярен. Даже осторожный И. А. Крылов отозвался на это событие баснями «Конь» и «Булат». В первой из них он рассказывал о прекрасном, испытанном боевом коне, который достался
Наезднику, да на беду – плохому.
Тот приказал его в конюшню свесть,
И там, на привязи, давать и пить и есть…
А во второй басне повествовал о булатном клинке, заброшенном под лавку крестьянской избы, где с ним заговаривает сосед-еж:
