Amb l'esclat de la Segona Guerra Mundial, l'Alt Comandament de l'Exèrcit Alemany (OKH) va assumir la seva organització en temps de guerra. Heusinger va acompanyar el personal de camp i va ajudar en la planificació d'operacions per a les invasions de Polònia, Dinamarca
, Noruega, França i els Països Baixos. Va ser ascendit a coronel l'1 d'agost de 1940, i va esdevenir cap de l'Operationsabteilung a l'octubre de 1940, fent-se el número tres en la jerarquia de planificació de l'Exèrcit, després del Cap de l'Estat Major General, el General Franz Halder, i el Vicecap de l'Estat Major General / Cap de Quartermaster, el General Friedrich Paulus.