Klingillä oli tärkeä rooli Mercedesin paluussa kansainväliseen kilpailuun 1950-luvun alussa, ja hänen voittonsa vuonna 1952 Carrera Panamericana -maajalla ajamalla silloin kokeellista Mercedes-Benz 300SL:ää oli ratkaiseva kohta vakuuttaessaan Daimler-Benzin johdolle, että moottoriurheilulla oli paikka Mercedeksen tulevaisuudessa. Vuonna 1954 hän pääsi Mercedes-sarjan Grand Prix -joukkueeseen. Hän oli alle sekunnin päässä legendaarisesta Juan Manuel Fangiosta.
1954 Ranskan Grand Prix nopealla Reims-Gueux radalla. Tämä lupaava alku ei kestänyt, ja kun Stirling Moss saapui Mercedesiin vuonna 1955, Kling alennettiin kolmanneksi kuljettajaksi. Kling voitti kuitenkin vaikuttavan voiton Berliinin Grand Prix -kilpailussa (toisella nopealla radalla AVUS). Hän jätti Formula 1 -ryhmän kauden lopussa Alfred Neubauerin seuraajaksi Mercedesin moottoriurheilun johtajana. Hän oli tässä asemassa 1960-luvun menestyksekkäiden rallikampanjoiden aikana, ja ajoittain hän itse ohjasi. Kerran hän ajoi Mercedes-Benz 220SE:tä voittoon mahtavassa vuonna 1961 järjestetyssä Algerin ja Kapkaupungin välisessä Afrikan ylittävässä rallissa.