Klingillä oli tärkeä rooli Mercedeksen paluussa kansainväliseen kilpailuun 1950-luvun alussa, ja hänen voittonsa vuonna 1952 Carrera Panamericana -maajärjestyskilpailussa, jolloin hän ajoi tuolloin kokeellista Mercedes-Benz 300SL:ää, oli ratkaiseva kohta vakuuttaessaan Daimler-Benzin johdolle, että moottoripyöräilyllä oli paikka Mercedeksen tulevaisuudessa. Vuonna 1954 hänet kutsuttiin uudistetulle Mercedes Grand Prix -joukkueelle, ja hän pääsi Formula 1:n debyyttinsä alle sekunnin takaa legendaarisen Juan Manuel Fangion jälkeen. Hän sijoittui toiseksi vuoden 1954 Ranskan Grand Prixissä.
nopealla Reims-Gueux -kentällä. Tämä lupaava alku ei kestänyt, ja kun Stirling Moss saapui Mercedesiin vuonna 1955, Kling alennettiin kolmanneksi kuljettajaksi. Kling voitti kuitenkin vaikuttavan voiton Berliinin Grand Prix -kilpailussa (toisella nopealla radalla AVUS). Hän jätti Formula 1 -ryhmän kauden lopussa Alfred Neubauerin seuraajaksi Mercedesin moottoriurheilun johtajana. Hän oli tässä asemassa 1960-luvun menestyksekkäiden rallikampanjoiden aikana, ja ajoittain hän itse ohjasi. Kerran hän ajoi Mercedes-Benz 220SE:tä voittoon mahtavassa vuonna 1961 järjestetyssä Algerin ja Kapkaupungin välisessä Afrikan ylittävässä rallissa.