Dopo che la stagione 1991-92 terminò in retrocessione per il Cremonese, Rampulla si trasferì alla Juventus nel 1992, dove trascorse un periodo di 10 anni di grande successo al club; inizialmente giocò come titolare, sostituendo l'ex portiere leggendario della Juventus Stefano Tacconi, e successivamente come portiere di riserva per il resto della sua carriera, dietro Angelo Peruzzi, Edwin van der Sar e Gianluigi Buffon, e in seguito come portiere di riserva dietro Andreas Isaksson e Fabian Carini, ritirandosi dal calcio attivo nel 2002, dopo la vittoria della Juventus in Serie A e la sconfitta finale della Coppa Italia. Nonostante fosse prevalentemente un backup, ha giocato partite in ogni competizione per la Juventus durante quasi ogni stagione della sua carriera alla Juventus, in particolare sotto Peruzzi a metà degli anni '90, quando quest'ultimo stava lottando con lesioni ricorrenti. Durante il suo periodo al club, Rampulla ha vinto una Coppa UEFA nel 1993 (come titolare), una Coppa Italia nel 1995 (come titolare), 4 titoli di Serie A, 2 Supercoppe Italiane (ha sostituito Peruzzi dopo essere stato espulso nell'edizione 1995 del torneo, contribuendo alla vittoria della sua squadra con diversi salvataggi decisivi), una UEFA Champions League, una UEFA Super Cup, una Coppa Intercontinentale
, e una Coppa UEFA Intertoto.