Pettitte oli Yankeesin paras syöttäjä, - joten he vaihtoivat Hitchcockin ennen kauden alkua. Pettitte aloitti kauden vuorottelussa, ja hänen ennätyksensä oli 13<unk>4 kauden ensimmäisen puoliskon lopussa, ja hän pääsi AL All-Star -joukkueeseen. Hän ei esiintynyt vuoden 1996 MLB All-Star -pelissä kipeän käden vuoksi. Hän johti AL:ta 21 voitolla ja oli kolmanneksi voittoprosentissa (.724) ja kahdeksanneksi ERA:ssa (3.87). Hän pääsi toiseksi AL Cy Young -palkinnossa Pat Hentgenin jälkeen pienimmällä äänestyserolla sitten vuoden 1972. Hentgen voitti palkinnon osittain, koska hän heitti täydellisempiä pelejä kuin Pettitte. Yankees voitti Texas Rangersin vuonna 1996 ja Baltimore Oriolesin vuonna 1996.
1996 American League Championship Series (ALCS). Pettitte voitti kaksi peliä Oriolesia vastaan, ja hänellä oli mahdollisuus kolmanteen sarjan alkuun, joka peruutettiin sateen vuoksi. Pettitte aloitti vuoden 1996 World Series -sarjan ensimmäisen pelin Atlanta Bravesia vastaan. Hän antoi seitsemän juoksua ensimmäisessä pelissä, mutta voitti John Smoltzin viidennessä pelissä, jossa Yankees voitti 1: 0. Yankees voitti Bravesin kuudennessa pelissä ja voitti sarjan neljä peliä kahdelle.