O'Sullivan syntyi Cobhissa, Corkin piirikunnassa. Hän opiskeli Cobh Community Collegessa. Hän valmistui vuonna 1987. O'Sullivanin ensimmäinen suuri kansainvälinen kilpailu oli Euroopan mestaruuskilpailu 1990.
Splitissä, jossa hän tuli 11. 3000 metrin juoksussa. O'Sullivan parani kuitenkin nopeasti sen jälkeen, ja 26. tammikuuta seuraavana vuonna Bostonissa hän asetti uuden maailman sisätilaennätyksen 5000 metrin ajalla 15:17.28, ottaen yli 5 sekuntia pois vanhalta ennätykseltä. Tuolloin O'Sullivan (joka sai urheilun apurahan) opiskeli kirjanpitoa Villanovan yliopistossa Yhdysvalloissa, ja Sheffieldissä heinäkuussa 1991 pidetyssä World Student Games -kilpailussa hän voitti 1500 m: n kultamitalin 4:12.14: ssä ja hopeamitalin 3000 m: ssä 8:56.55: ssä. Vuoden 1992 alussa hän sijoittui seitsemänneksi Maailman risteilymestaruuskilpailussa.