All'inizio della guerra, fu riassegnata alla terza divisione cacciatorpediniere della flotta baltica. Durante l'evacuazione della Marina Sovietica
Da Tallinn a Kronstadt durante l'operazione Barbarossa, "Yakov Sverdlov" fu assegnato come scorta alla nave ammiraglia. Durante l'operazione, colpì una mina e affondò vicino a Capo Juminda il 28 agosto 1941. Il relitto è stato localizzato e identificato il 16 giugno 2018.