En marzu de 1935, la carrera de Karajan tuvo un significativu impulsu cuando s'inscribió como miembru del Partíu Nazi ('Aufnahmegruppe der 1933er, nachgereichte'). Aquel añu, Karajan foi nomáu'l más nuevu direutor d'orquesta alemán y foi direutor invitáu en Bruxeles, Estocolmo, Ámsterdam y otres ciudaes europees. Más entá, en 1937, Karajan fixo'l so debú cola Orquesta Filarmónica de Berlín y la Ópera Estatal de Berlín (a la que dirixió dende 1939, en plena Segunda Guerra Mundial) con Fidelio. Esfrutó d'un notable ésitu con Tristán y Isolda y en 1938, foi bautizáu por un críticu berlinés como «Das Wunder Karajan» (‘el milagru Karajan’). Al roblar un contratu con Deutsche Grammophon aquel añu, Karajan realizó la primera de les sos numberoses grabaciones dirixiendo a la Staatskapelle Berlin na obertura de La flauta máxica. Sicasí, Adolf Hitler recibió con desdeñu al afamáu direutor dempués de qu'esti equivocar nun momentu en Die Meistersinger von Nürnberg nun conciertu de gala que Hitler ufiertó pa los reis de Yugoslavia en xunu de 1939. Al dirixir ensin la partitura, Karajan perdióse, les cantantes detuviéronse, la cortina resgóse metanes el tracamundiu. Furiosu, Hitler ordenó a Winifred Wagner: «Herr von Karajan enxamás va dirixir en Bayreuth mientres yo viva», y asina foi. Dempués de la guerra, Karajan fixo lo posible pa nun recordar aquel vergonzosu y non tan gloriosu incidente, que sicasí salvó la so carrera na posguerra.