Одновременно с укреплением границ шло пополнение, переустройство и обучение армии. От нарвского погрома уцелел корпус Репнина; с потерями, но сохранив боевой дух, ушла из-под Нарвы гвардия, в меньшем порядке и почти без оружия пришел отряд Вейде. Новый рекрутский набор должен был покрыть человеческие потери. Под Нарвой гибель всего дела началась с паники среди дворянской конницы Шереметева, занимавшей настолько выгодное положение частью с фланга, а частью и в тылу у шведов, что Карл серьезно опасался ее нападения и в решительное наступление перешел только после того, как удостоверился в бегстве русской конницы. Регулярной кавалерии у Петра было очень мало, и потому значительную часть нового набора он решил использовать на устройство десяти новых драгунских полков.
Почти всю свою артиллерию русская армия оставила в руках шведов, купив такой ценой почетное отступление гвардейских полков и отряда Вейде с оружием и знаменами. Артиллерийское дело приходилось заводить заново. Металла на пушки не хватало, и Петр приказал со всего государства, у «знатных» городов, церквей и монастырей, забрать часть колоколов на пушки и мортиры. Давний глава металлургического дела в России Андрей Виниус был облечен званием надзирателя артиллерии с поручением возобновить «наряд». К ноябрю 1701 года он изготовил уже больше 300 хороших орудий. В школу при заводе Виниус набрал 250 ребят, чтобы сделать из них пушечного дела мастеров.
Со всем тем Петр не намеревался прятаться в угол, как побитая собака, в ожидании, пока затянутся раны. Сразу после Нарвы царь предпринял наступление теми силами, которыми располагал. Через две недели после разгрома Шереметев получил такое письмо царя: «Понеже нельзя при несчастии всего лишатися, того ради вам повелеваем при взятом и начатом деле быть, то есть над конницею новгородскою и черкасскою, с которыми, как мы и прежде наказывали, да в ту пору мало было людей, ближних мест беречь и иттить вдаль для лучшего вреда неприятелю. Отговариваться нечем: понеже людей довольно, реки и болота замерзли… Паки пишу, не чини отговорки ни чем даже и болезнью не то почту, что она получена меж беглецами, товарищ которых майор Л. на смерть осужден. Питер». Шереметев незамедлительно двинулся к Мариенбургу, но был отбит шведским генералом Шлиппенбахом, который, в свою очередь, был оттеснен русскими, когда вздумал преследовать Шереметева на псковской земле.
Эти боевые действия еще представляли собой ряд сумбурных мелких стычек. Должно было пройти больше года, прежде чем русские одержали первую победу над страшным противником. 29 декабря 1701 года под Эрестфером Шлиппенбах был окружен Шереметевым и после жаркого боя бежал. Петр был в восторге. Шереметев получил орден Святого Андрея Первозванного и звание генерал-фельдмаршала.
