Sarr liittyi paikalliseen OGC Niceen kuuden vuoden iässä. Hän vietti seuraavat 12 vuotta klubin akatemiassa, ennen kuin hän teki Ligue 1-debuttinsa klubille 14. elokuuta 2016 Rennesia vastaan 17-vuotiaana. Hän teki joukkueelleen voiton maaliin 60. minuutilla, kun hän lähti kotiin Jean-Michaël Sirin vapaasti lyömästä. Näin hänestä tuli toiseksi nuorin pelaaja, joka on koskaan tehnyt maaliin debyytissään Ligue 1: ssä Nigerian kansainvälisen Bartholomew Ogbechen jälkeen. Ottelun jälkeen Sarr omisti maalinsa vuoden 2016 Nizzan terrori-iskun uhreille.
- Mitä? Alusta ennen pidettiin hiljaisuusminuuti uhrien muistoksi, ja sekä Nissin että Rennesin joukossa oli mukana ainutlaatuisia muistopaitoja, joissa oli kuolleiden nimet. 7. marraskuuta 2016 Sarr allekirjoitti ensimmäisen ammatillisen sopimuksensa Nizzan kanssa ja kauden loppuun mennessä hän oli tehnyt yli 30 ottelua, kun klubi lopetti liigan kolmanneksi.