Fontaine giocò la sua ultima partita nel luglio del 1962, venendo costretto a ritirarsi presto (28 anni e 11 mesi) a causa di un infortunio ricorrente. Ha gestito brevemente la nazionale francese nel 1967, ma è stato sostituito dopo solo due partite, entrambe amichevoli che si sono concluse con sconfitte. Come allenatore del Marocco, ha portato gli Atlas Lions al 3 ° posto nella Coppa africana delle nazioni del 1980
, supervisionando l'emergere di giocatori come Badou Zaki, Mohammed Timoumi e Aziz Bouderbala. Il Marocco raggiunse la fase finale delle qualifiche per la Coppa del Mondo 1982, ma fu battuto dal Camerun.