В 1806–1807 годах Ермолов прославился в армии постоянной боевой инициативой, умением быстро учесть создавшуюся обстановку и смело взять на свою ответственность нужную операцию. Так, например, он едва не был отдан под суд за то, что по собственному решению зажег два квартала местечка Маков, чтобы осветить приближение неприятеля к единственному мосту через реку Иарев, по которому переходили наши обозы и части. Встретив здесь врага огнем своих сорока орудий, Ермолов удерживал его несколько часов и обеспечил благополучную переправу. В одном из сражений на замечание адъютанта, присланного к нему великим князем Константином, что французы слишком близко подходят к его батарее, Ермолов отвечал: «Я буду стрелять, когда различу белокурых от черноволосых». И, подпустив врага на пятьдесят шагов, ударил картечью и обратил его в бегство.
Боевую деятельность Ермолова высоко ценили Багратион, Раевский и другие передовые генералы русской армии, по настоянию которых он был произведен в полковники. Ценили Ермолова и солдаты – во время одного из сражений, увидев его батареи, выезжавшие на позицию, пехотинцы кричали: «Зря француз горячку порет, Ермолов за нас постоит!» Однако неоднократные представления храброго артиллериста к чину генерал-майора оставались без утверждениями на одном из смотров, вскоре после окончания войны, произошло новое столкновение с Аракчеевым, наговорившим Ермолову таких несправедливых замечаний и грубостей, что полковник решил подать в отставку. Но оказалось, что, наслышавшийся о подвигах Ермолова, Александр I пожелал удержать его на службе. Вслед за императором Аракчеев, переменив свое отношение, сам ходатайствовал о производстве Ермолова в генералы.
В начале войны 1812 года он был назначен начальником штаба 1-й армии Барклая-де-Толли. Несмотря на то что с этим генералом у него были холодные, чисто служебные отношения, а с командовавшим 2-й армией Багратионом – самые дружеские, Ермолов делал все возможное, чтобы сгладить постоянные взаимные неудовольствия неладивших между собою командующих, смягчать шероховатости в переписке и т. п. В докладах Барклаю он передавал резкие и дерзкие отзывы Багратиона в «выражениях самых обязательных», а в письмах Багратиону холодность и грубость Барклая представлял в «видах приятных». В результате Багратион писал Ермолову, что он не ожидал найти в Барклае столько хорошего, как нашел, а Барклай говорил, что он «не думал, чтобы с Багратионом можно было так легко служить».
