Прибыв на Кавказ в составе штаба Ермолова, Николай энергично занялся изучением турецкого и персидского языков и скоро основательно овладел ими. Знание восточных языков наряду с умениями и навыками, которыми он обладал как боевой офицер Генерального штаба, сделали его незаменимым в качестве одного из руководителей разведывательно-дипломатических экспедиций, которые командование Кавказского корпуса направляло на восточный берег Каспийского моря – в Туркестан и Хиву. В 1822 году он был уже полковником. Позже в качестве полкового командира руководил рядом операций по покорению кавказских горцев. В 1826–1828 годах командовал бригадой в ходе Русско-персидской войны и был произведен в генерал-майоры. Во время Русско-турецкой войны 1829 года сражался под Карсом и Эрзрумом. В своем «Путешествии в Арзрум» о нем упоминает Пушкин. В 1831-м Н. Н. Муравьев командовал дивизией, которая в составе войск Паскевича героически штурмовала мятежную Варшаву, за что был произведен в генерал-лейтенанты.
В 1832 году Николай I направил генерал-лейтенанта Муравьева с военно-дипломатической миссией в Александрию и Стамбул, а по возвращении произвел его в генерал-адъютанты, то есть включил в число генералов, подчиненных лично императору. Впрочем, при этом звании Муравьев оставался недолго. В 1837 году царь выразил неудовольствие по результатам смотра 5-го армейского корпуса, которым командовал Николай Николаевич. Ходили слухи, что истинной причиной высочайшего неудовольствия были не недочеты в выучке корпуса, а критические записки Муравьева об общем состоянии войск. Николай Муравьев был щепетилен, он счел себя оскорбленным и подал в отставку, лишившись при этом звания генерал-адъютанта.
В отставке генерал-лейтенант Муравьев пробыл десять лет. В 1848 году император вновь призвал его на службу. В том же году он был назначен командиром Гренадерского корпуса, во главе которого вместе с другими войсками выступил к границам Венгрии для подавления полыхавшего там восстания. В конце 1853 года Николай Николаевич был произведен в генералы от инфантерии, а годом позже, накануне Крымской войны, назначен командующим Особым Кавказским корпусом и наместником Кавказа, достигнув, таким образом, пика своей военной карьеры.
