С началом Северной войны Голицын находился в армии и сражался под Нарвой в составе гвардии, отражавшей атаки войск Карла ХП на правом фланге; был ранен. В чине подполковника 12 октября 1702 г. командовал отрядом Семеновского полка при штурме крепости Нотебург. Шведы отчаянно сопротивлялись и отбили штурмующие колонны русских. Петр, сомневаясь в возможности взятия крепости, уже послал приказ отступить, но Голицын, оттолкнув от берега Невы лодки, чтобы солдаты не думали о бегстве, повел их еще на один приступ, Нотебург был взят после тринадцати часов кровопролитного боя. За этот подвиг князь был награжден поместьями, золотой медалью и чином полковника лейб-гвардии Семеновского полка, даваемым обычно только членам царствующего дома. Отличился Голицын и при осаде Ниеншанца в 1703 г., в штурмах Нарвы и Митавы в 1704 и 1705 гг. В следующем году стал командиром дивизии и получил чин генерал-майора.
30 августа 1708 г. Голицын одержал блестящую победу при селе Добром над отрядом шведского генерала Росса. Со своими гренадерами под прикрытием тумана он подошел вплотную к шведам и неожиданно напал на них, хотя и не имел численного превосходства. Сражение продолжалось два часа и окончилось полным разгромом шведов, потерявших до 3 тысяч человек. Карл XII с главными силами не успел вступить в бой, и Голицын организованно отошел со своим отрядом к основным силам русской армии. Прямо на поле сражения царь наградил Михаила Михайловича орденом св. Андрея Первозванного. 28 сентября в сражении при Лесной он своими действиями способствовал победе русского оружия, после чего государь, видевший Голицына на поле боя, произвел его в генерал-поручики и наградил своим портретом с бриллиантами.
В Полтавском сражении князь командовал гвардией, а затем вместе с А. Д. Меншиковым и кавалерийскими полками Боура и Волконского преследовал отступавшие шведские войска и принудил их 30 июня 1709 г. к сдаче у Переволочим. Несмотря на нехватку сил, он потребовал от фельдмаршала Левенгаупта капитулировать. К этому времени подошли войска Меншикова, и 16 тысяч шведов сложили оружие. На следующий год Голицын был среди осаждавших и взявших крепость Выборг войск, а еще через год участвовал в Прутском походе, чуть не окончившемся трагедией для русской армии, и один из первых высказался на военном совете против капитуляции перед турками, осадившими русский лагерь.
По проекту Петра I в 1712 г. Голицыну предстояло принять участие в операциях Ингерманландского корпуса против шведов в Финляндии. Он стал ближайшим помощником генерал-адмирала Ф. М. Апраксина. В мае он прибыл в Санкт-Петербург и принял на себя командование над полевыми войсками. Вместе с Апраксиным и другими военачальниками разработал и внедрил правила походной службы, устройства лагерей, караульной службы, диверсий, действий галерного флота.
