В началото на съветската контраофанзива през 1943 г. във Втората световна война, Василевски координира и изпълнява офанзивите на Червената армия в горната част на Дон, в Донбас, Крим, Беларус и балтийските държави, като завършва войната си в Европа с превземането на Кьонигсберг през април 1945 г. През юли 1945 г. е назначен за главнокомандващ на съветските сили в Далечния Изток. Изпълнява манджурийската стратегическа офанзивна операция (август 1945) и впоследствие приема
Капитулацията на Япония. След войната той става съветски министър на отбраната от 1949 до 1953 г., позиция, която заема до смъртта на Сталин през 1953 г. С възхода на Никита Хрушчов в средата на 50-те години на миналия век, Василевски започва да губи властта си и в крайна сметка е пенсиониран. След смъртта си той е погребан в некропола на Кремълската стена в знак на признание за предишната му служба и принос към страната му.