Pettitte oli ensimmäinen Core Four -pelaaja, joka lopetti, ja ilmoitti päätöksestään lehdistötilaisuudessa Yankee Stadiumilla 4. helmikuuta 2011. Hän sanoi järjestölle, ettei hänen paluuaan kannata odottaa, - kun Yankees hävisi vuoden 2010 American League -mestaruussarjan.
Texas Rangersille, koska hän haluaa viettää enemmän aikaa perheensä kanssa. Hän oli Yankeesin vieraileva valmentaja kevätharjoittelussa 2012 ja vaati, ettei harkitsisi paluuta. Hän kuitenkin muutti päätöksensä viimeisenä valmentajanpäivänään ja liittyi järjestöön uudelleen 16. maaliskuuta allekirjoittaen 2,5 miljoonan dollarin sopimuksen. Hän syöttänyt sekä 2008 ja 2010 kaudet Yankees ennen ilmoittaa hänen toinen eläkkeelle 20. syyskuuta 2013. Vaikka hän ei alun perin aikonut paljastaa päätöstään, hän lopulta teki sen Riveran vaatiessa. Yankees järjesti Pettitteille seremonian viisi päivää myöhemmin, 25. syyskuuta, kun Core Fourin jäsenet Jeter ja Rivera esittelivät hänelle kehystetyn pohjan hänen viimeisestä Yankee Stadium -alustaan, jonka kaikki hänen joukkuetoverinsa allekirjoittivat. Hän teki viimeisen esiintymisensä 28. syyskuuta Houston Astrosia vastaan, joka oli ainoa toinen joukkue, jonka hän oli syöttänyt urallaan. Hän syöttää täydellisen pelin - ensimmäisen kerran sitten vuoden 2006 - ja voittamalla viimeisen startin, hän lopetti kauden 11 voiton ja tappion ennätyksellä. Tämä säilytti hänen ennätyksensä siitä, ettei hänellä ollut koskaan häviökautta koko 18-vuotisen uransa aikana ja että hän oli ainoa syöttäjä suurjoukkueiden historiassa, jolla oli 15 voittoa (minimimillä kolmella aloituksella) ilman häviökautta.