2002an Alemania ez zen gai izan euren arrakastari eusteko, eta berriro ere kanporatu egin zuten
2004ko Europako Kopa, oraingoan lehen bi partidak berdindu eta hirugarrena galduta. 2000. urtean gertatu zen bezala, taldeak galdu egin zuen jada aurreratu zen talde indartsuago baten aurka, kasu honetan Txekiar Errepublika. Nahiz eta Alemaniak partidua menderatu zuen, ezin izan zuten gola sartu, atsedenaldian egindako gol txekiarraren aurka galduz. Ondoren Völlerrek dimisioa eman zuen, hedabideen etengabeko kritikak salatuz telebistako elkarrizketa ospetsu batean. Talde nazionalak hirugarren entrenatzaile berria aurkitu behar izan zuen sei urtetan, aurreko 75 urteetan sei entrenatzaile izan ondoren. Ottmar Hitzfeld eta Otto Rehhagel bezalako hautagaiek lanpostuari uko egin ziotenean, Jürgen Klinsmann izendatu zuten. Beckenbauerrek entrenatzaile lizentziarik izan gabe taldeko zuzendari gisa betetzen zuen lanaren antzeko estiloan, Joachim Löw Stuttgarteko esperientziaduna izendatu zuten laguntzeko.