У гады Вялікай Айчыннай вайны музыкант быў накіраваны ў Казахскую дзяржаўную філармонію, неаднаразова выступаў у складзе франтавых канцэртных брыгад. Пасля вызвалення Мінска Іосіф Жыновіч вярнуўся ў беларускую сталіцу і пачаў выкладаць. У далейшым ён праявіў сябе як таленавіты педагог і арганізатар, які заснаваў у Беларускай дзяржаўнай кансерваторыі клас цымбалаў і кафедру народных інструментаў, якой кіраваў у 1946-1963 гадах.