Необходимость вести войну с хорошо обученной шведской армией вызвала дальнейшие преобразования в военной сфере.
В 1705 году правительство переходит к набору рекрутов непосредственно с крестьянского населения (раньше по указам 1699 года войска формировались путем набора "охотничьих" и "даточных людей").
Система рекрутских наборов оказалась устойчивой и достаточно эффективной, просуществовав без изменений 170 лет - до 1874 года. Е. В. Анисимов в книге "Время Петровских реформ" объясняет такую устойчивость те, что рекрутская система полностью отвечала особенностям социальной и экономической структуры страны. "Рекрутская повинность и крепостнические отношения - это две стороны одной медали. На армию, где дворянин - офицер, а вчерашний крестьянин - солдат, крепостническая система накладывала, несмотря на принципиальное различие поместья и полка, свой неизгладимый отпечаток". (С. 104). Судьба рекрутов, становившихся пожизненными солдатами, была тяжка. В народе возникло сопротивление рекрутским наборам.
Убедившись в невозможности обретения выхода к южным морям и, в то же время, в реальности борьбы за балтийское побережье, Петр сразу же после получение известий о заключении перемирия с Турцией 8 августа 1700 г. объявил войну Швеции и осадил Нарву (союзники России уже воевали со Швецией.) Однако шведский король Карл ХП, который, несмотря на свои восемнадцать лет, успел зарекомендовать себя блестящим полководцем, вынудил датчан подписать мир и в ноябре 1700 г. неожиданно появился под Нарвой. Его войско, насчитывавшее до 12 тыс. человек, разбило 34-тысячную русскую армию, захватив всю ее артиллерию, множество генералов и офицеров. Но, недооценив Петра, Карл ХП совершил роковую ошибку: он не пошел на Москву, а двинулся в Польшу, на Августа II, которого считал более серьезным противником.
Анализируя поражение под Нарвой, Петр отметил в своём "Журнале": "искусство ниже вида", то есть крайне неудовлетворительное состояние боевой подготовки и искусства ведения военных действий.
Русские войска не привыкли воевать в поле, предпочитая отсиживаться за стенами крепостей или в укрепленных лагерях. Тем самым инициатива отдавалась противнику. Так было и под Нарвой, когда, зная о приближении шведов, войска не вышли из-за укреплений.
Петр понял порочность такой концепции. "Главной целью военных действий - пишет Анисимов - становится не взятие крепостей противника, а нанесение поражения армии противника в непосредственном быстротечном контакте - бою, сражении". Соответственно новым стратегическим принципам была изменена концепция подготовки войск к боевым действиям. На смену прежним смотрам раз в год и редким стрельбам приходит постоянная подготовка, ориентированная на активное ведение боевых действий. Здесь сочетания индивидуального и группового обучения приемам и различным перестроениям в бою. Здесь и четкое управление боем со стороны офицеров.
Петр развернул кипучую деятельность по подготовке новых войск, воссозданию артиллерии (добывая медь для пушек, он не останавливался и перед снятием церковных колоколов), широкому строительству металлургических, оружейных, суконных и иных мануфактур.
Уже летом 1701 г. было успешно отбито нападение шведских кораблей на Архангельск, а 29 декабря русские войска под командованием Б.П.Шереметева впервые разбили шведов под Эрестфером. С этого времени относительно слабые силы, оставленные Карлом ХП в Прибалтике, стали терпеть поражение за поражением. В 1702 г. была взята крепость Нотебург, находившаяся у истоков Невы. В 1703 г. с овладением крепости Ниеншанц вся Нева вновь стала российской. В мае этого года на ее болотистых, лесистых берегах был заложен Петербург, ставший через 10 лет столицей России и ее крупнейшим портом.
За поражения в Прибалтике Карл ХП взял реванш в Польше. Саксонские и российские войска потерпели здесь неудачу и в 1706 г. Август II вынужден был отказаться от польской короны и от союза с Петром. Россия осталась без союзников, положение ее стало опасным. Хотя по численности русская армия примерно в 2 раза превосходила шведскую, последняя имела великолепную боевую выучку и находилась зените славы. В декабре 1707 г. Карл начал наступление на войска Петра I. Он занял Гродно, Могилев и ждал 16-тысячный корпус Левенгаупта, везший крайне необходимые шведам припасы (русская армия использовала тактику выжженной земли). Но, не дождавшись, король двинулся на Украину, где надеялся поправить снабжение армии найти союзника в лице гетмана Мазепы. Между тем, 28 сентября 1708. у деревни Лесной российские войска разбили корпус Левенгаупта и захватили огромный обоз.
На Украине после присоединения к России наблюдалось непрерывное брожение: если низшие слои населения в целом приветствовали падение польского господства, то верхние - казачья старшина - были настроены пропольски, их привлекало самовластие шляхты. После Богдана Хмельницкого практически все гетманы Украины, не исключая даже и его сына, были противниками присоединения к России и, как правило, не удерживались долго у власти. На этом фоне Мазепа, казалось, был исключением, и Петр не верил поступавшим на него доносам.
Однако 29 октября 1708 г. Мазепа с 4 тыс. казаков неожиданно присоединился к шведским войскам. В ответ русская армия под командованием ближайшего соратника Петра I - А.Д. Меньшикова разгромила столицу Мазепы Батурин. Борьбу со шведами начали и сами украинцы. Вскоре был избран новый гетман, а духовенство предало изменника Мазепу анафеме.
27 июня 1709 г. русские войска выиграли генеральное сражение под Полтавой, полностью разгромив шведскую армию. В итоге шведы потеряли убитыми и пленными более 28 тыс. человек. Битва стала поворотным пунктом войны. Мощь шведской армии была подорвана, а Европа ввергнута в шок. Поначалу европейские газеты, будучи не в состоянии представить иной исход сражения, стали по привычке превозносить очередную победу Северного Льва над Русским Медведем. Но когда стали известны истинные результаты битвы, это сразу же изменило международную ситуацию. В 1709 г. воссоздается Северный Союз (в 1714 г. к нему присоединилась Пруссия). В 1710 г. русские войска овладели Ригой, Выборгом, Ревелем и другими прибалтийскими городами.
Триумфальное шествие России было прервано Турцией. Осенью 1710 г., подстрекаемая Швецией и Англией, она объявила войну России. Петр двинул войска в Молдавию, но возле реки Прут они были окружены турецко-татарской армией, превосходившей русскую более чем в три раза. 9 июля 1711 г. русские войска сумели отбить атаку, нанеся туркам большие потери. На следующий день янычары отказались идти в бой. В свою очередь, русские войска страдали от отсутствия воды и пищи. В результате 12 июля был подписан Прусский договор, по которому Турции был возвращен Азов. Россия обязывалась срыть укрепления Таганрога, не вмешиваться в дела Польши и не поддерживать донских и запорожских казаков. Однако все завоевания России в Прибалтике были сохранены.
Между тем война со Швецией продолжалась. Предложения Петра о мире, которые он начал выдвигать сразу же после Полтавы, были отвергнуты. В 1713 - 1715 гг. русская армия овладела Финляндией, а в 1714 г. была впервые одержана крупная победа над шведским флотом у мыса Гангут. На другом театре военных действий - в шведской провинции Померании (южная Прибалтика) война шла вяло. Тем не менее, в 1717г. русские и союзные войска все же вытеснили Швецию из Германии. Более решительным действиям препятствовали противоречия внутри антишведской коалиции. В 1717 г. они привели к распаду этого союза.
Начавшиеся в 1718 г. мирные переговоры со Швецией были прерваны после гибели Карла ХП. Англия настраивала Швецию на продолжение войны и восстанавливала против России другие страны. В 1719 г. Австрия, Саксония и Ганновер создали антироссийскую коалицию. Только новые победы русского флота у островов Эзель и Гренгам, а также три десанта в Швецию в 1719 - 1721 гг. заставили последнюю 30 августа 1721 г. подписать Ништадтский мир. По нему Россия оставляла за собой завоеванные ею земли, за исключением Финляндии. "Окно в Европу" было прорублено. Россия превратилась в одну из могущественнейших на континенте держав.