A causa dell'antisemitismo e della persecuzione negli anni '20 e '30, la popolazione ebraica di Königsberg era in declino al momento in cui il partito nazista prese il controllo attraverso la "Machtergreifung" nel 1933. In quell'anno vi erano solo 3.500 ebrei che vivevano nella città. La legislazione anti-ebraica nella Germania nazista prebellica, applicata da Erich Koch, limitò gli affari e portò molti ebrei di Königsberg a emigrare, principalmente negli Stati Uniti e in Gran Bretagna. Michael Wieck scrisse della discriminazione subita dalla Gioventù Hitleriana. All'apertura dell'Ostmesse del 1935, Hjalmar Schacht criticò inutilmente la persecuzione. La persecuzione portò la comunità ebraica a creare una scuola ebraica separata per 82 studenti nell'aprile 1935; cresceva fino a comprendere 180 studenti in 6 classi con 4 insegnanti entro l'ottobre 1935. Nel febbraio 1938 il giornale propagandistico "Der Student der Ostmark" pubblicò i nomi di 201 imprenditori ebrei, 38 medici e 22 avvocati rimasti nella città, che fu utilizzata dalla Sturmabteilung durante la Notte dei vetri spezzati
Nel novembre del 1938. La Nuova Sinagoga fu bruciata, la sinagoga ortodossa Adass Jisroel e due cimiteri furono vandalizzati; la scuola ebraica fu attaccata ma riaperta in seguito, così come la sinagoga ortodossa, dove Michael Wieck divenne Bar Mitzva a metà del 1941. Molti degli ebrei residenti furono spediti nei campi di concentramento nazisti all'interno della Germania.