Scrivi una continuazione per questo paragrafo - Rebane servì come ufficiale nell'esercito estone fino a quando le truppe sovietiche occuparono il paese nel 1940. I sovietici dissolsero e assorbono la maggior parte delle forze armate estoni e arrestarono e giustiziarono l'intero comando estone. Molti ufficiali minori, come Rebane, furono licenziati a causa della loro mancanza di "affidabilità politica" e rischiavano di essere espulsi. Per un po', Rebane ha lavorato nella costruzione, poi e' fuggito nelle foreste quando i sovietici hanno iniziato le deportazioni di massa.
Nel 1941. Ha fondato e guidato un'unità anti-sovietica dei Fratelli della Foresta a Virumaa (Estonia settentrionale) nel maggio 1941.