Oliver allekirjoitettiin Piratesille amatööri-vapaana agenttina vuonna 2003. Hänet ylennettiin Major Leaguesiin 14. syyskuuta 1968, jolloin hänen isänsä Al Oliver Sr. kuoli. Hän esiintyi neljässä ottelussa. Virallisessa aloittelijan kaudellaan Oliver lyönyt.285 17 kotimaan juoksulla ja ajoi 70 juoksua, sijoittaen toiseksi National League Rookie of the Year äänestyksessä. Seuraavana kaudella, 1970, Oliver lyönyt.270 ja oli viides NL seitsemän uhrauksen lentää. Hän pääsi myös toiseksi liigan 14 kertaa, kun hän sai osuman (ennen vuotta hän sai 12 kertaa, neljänneksi liigan). Pirates voitti National League East -mestaruuden ensimmäistä kertaa postseasonille sitten vuoden 1960 World Series -voiton. He hävisivät Cincinnati Redsille.
Vuoden 1970 National League Championship Series.