Pietarilla oli uusi armeija hyökkäämässä ruotsalaisille Livonian ja Ingrian alueille Itämeren rannalla. Kun hän oli varma, että Kaarle oli menossa etelään, hän määräsi kenttämarsalkkansa Boris Sheremetevin hyökkäämään kevyesti puolustettuihin siirtokuntiin, samalla kun hän lähetti myös divisioonan etelään viivyttämään Kaarle XII:tä ja antamaan Pietarille aikaa korjata joukkonsa. Vuoden 1701 lopussa Sheremetev kohtasi paljon vähemmistöiset ruotsalaiset.
Erastferin taistelukentällä Livoniassa hän voitti heidät. Hän toisti sen Hummelshofin taistelukentällä heinäkuussa 1702. Nämä kaksi voittoa, ensimmäiset merkittävät Venäjän kampanjassa, auttoivat nostamaan Venäjän moraalia Narvan katastrofin jälkeen. Pietari lähetti sitten Sheremetevin Ingriaan, jossa hän puhdisti ruotsalaiset joukot Ladogaan. Lokakuussa 1702 otettiin ruotsalainen Nöteborgin linnoitus. Toukokuussa 1703 Pietari valloitti Nyenschantzin linnoituksen. Hän valitsi Nevan suulla olevan, suolla ympäröivän paikan perustamaan linnoituksensa Pietariin. Alun perin se oli etuvartio ruotsalaisia vastaan ja Pietarin "ikkunan länteen" - linnoitus kasvoi myöhemmin yhdeksi Venäjän suurimmista ja tärkeimmistä väestökeskuksista ja Pietarin aikana Venäjän pääkaupungiksi.