Toisen maailmansodan syttyessä Saksan armeijan ylin johto (OKH) otti hallintaansa sodan ajan järjestönsä. Heusinger oli kenttätyöntekijöiden mukana ja auttoi operaatioiden suunnittelussa Puolan, Tanskan
, Norja, Ranska ja Alankomaat. Hänet ylennettiin everstikseksi 1. elokuuta 1940 ja hänestä tuli "Operationsabteilungin" päällikkö lokakuussa 1940, mikä teki hänestä kolmannen armeijan suunnitteluhierarkiassa kenraali Franz Halderin ja kenraali Friedrich Paulusin jälkeen.