Hänen sotilaallinen nerokkuutensa kukoisti Napoleonin sodissa. Vuoden 1805 sotaretkellä Yermolov palveli taustalla ja etuvartiossa ja erotti itsensä Amstettenin ja Austerlitzin taisteluissa.
- Mitä? Hänet ylennettiin everstikseksi 16. heinäkuuta 1806. Seuraavana vuonna hän osallistui Puolan kampanjaan ja palveli prinssi Bagrationin etuvartiossa. Hän erotti itsensä komentaessaan tykkijoukkoa lukuisissa takavartion taistelussa Landsbergin perääntymisen aikana sekä Eylaun taistelussa. Kesäkuussa 1807 Yermolov komensi hevosen tykistöryhmää Guttstadtin, Deppenin, Heilsbergin ja Friedlandin taisteluissa ja sai Pyhän Georgin ritarikunnan (3. luokan 7. syyskuuta 1807). Hänet ylennettiin kenraalimajuriin 28. maaliskuuta 1808 ja hänet nimitettiin hevosen tykistöyhtiöiden tarkastajaksi. Vuoden 1809 alussa hän tarkasti Tonavan armeijan tykistöyhtiöitä. Vaikka hänen divisioonansa osallistui vuonna 1809 Itävaltaa vastaan käyntiin, Yermolov komensi varastoja Volhynjan ja Podolskin guberniassa, missä hän pysyi seuraavat kaksi vuotta. Vuonna 1811 hän otti komennon vartiointi tykistöyhtiön ja vuonna 1812 hänestä tuli 1. Länsi-armeijan päällikkö.