Il suo primo incarico come allenatore della nazionale israeliana (che durò tre anni), vide due presenze all'EuroBasket (1985, 1987)
) e il 7° posto storico di Israele al Campionato Mondiale di Basket 1986 FIBA. Il mandato di Sherf come capo allenatore della squadra nazionale si è concluso dopo quella che è stata percepita come una scarsa prestazione all'EuroBasket 1987 (11 ° posizione), ma Sherf in seguito è tornato come capo allenatore della squadra per gli anni 1991-97. Nel 2005, Sherf è stato nuovamente nominato capo allenatore della nazionale israeliana di basket, e il 1o gennaio 2008, è stato nominato capo allenatore del Maccabi Tel Aviv.