Nel marzo 1938 le truppe tedesche entrarono in Austria, cosa che fu seguita da una rapida integrazione, dando origine a una "Grande Germania" che incorporò i due stati finora separati. Pochi giorni dopo l'arrivo degli eserciti dall'ovest Franz Rauscher fu arrestato dalla Gestapo, ma fu rilasciato una settimana dopo. Ha trovato un lavoro con la. Nel 1939 fu però nuovamente arrestato dalla Gestapo. Questa volta fu trasferito al campo di concentramento di Buchenwald: fu tenuto in detenzione statale per i successivi sei anni. Durante la Seconda Guerra Mondiale, che in questa parte d'Europa durò dal 1939 al 1945, venne trasferito nel campo di concentramento di Majdanek, nella Polonia occupata.
- No, no. Poco prima della fine della guerra fu liberato dall'esercito rosso o riuscì a fuggire dal campo di concentramento mentre l'infrastruttura statale della Germania nazista crollava. Tornò in Austria, arrivando a Salisburgo il 14 aprile 1945. I governi sovietico e occidentale avevano già dichiarato la fusione della Germania con l'Austria del 1938 nullo e non valido, e entro due settimane dall'arrivo di Rauscher al confine di Salisburgo un gruppo di lavoro si riunì in fretta a Vienna, sotto il cancelliere Renner, anticipando le esigenze dei nuovi padroni del paese con un documento firmato dai leader dei tre principali partiti politici (che includeva i socialdemocratici) il 27 aprile 1945.