Nel giugno 1941, con il lancio dell'operazione Barbarossa, Kleist guidò il 1 ° gruppo Panzer come parte del gruppo di eserciti sud - incaricato della cattura della Moldavia e dell'Ucraina - e vide il successo nella fase iniziale dell'invasione, avanzando in profondità in Ucraina. Il 1o Gruppo Panzer sfondò la linea di Stalin, quindi sconfisse i cinque corpi meccanizzati della 5a e 6a Armata sovietica nella battaglia di Brody
(dal 23 al 30 giugno 1941). Nel luglio 1941 durante la battaglia di Uman, il 1o gruppo Panzer sfondò le linee del fronte meridionale sovietico, portando all'accerchiamento e all'annientamento dei 6o e 12o eserciti sovietici a sud-est della città di Uman (nell'attuale Oblast di Cherkasy). Durante la prima battaglia di Kiev dell'agosto-settembre 1941, la svolta verso nord del 1o gruppo Panzer dall'Ucraina centrale in combinazione con l'avanzata verso sud del 2o gruppo Panzer da Smolensk portò all'accerchiamento e alla distruzione dell'intero fronte sud-occidentale sovietico ad est di Kiev, infliggendo oltre 600.000 perdite all'Armata Rossa. Tuttavia, la campagna era stata costosa, a quel tempo le forze tedesche avevano solo la metà dei carri armati che avevano avuto tre mesi prima.