Philliesekin, bere bigarren karrerako All-Starra irabazi zuen Filadelfiako lehen denboraldian, nahiz eta ez zen partidan egon. 1975ean Piratesen atzetik bigarren amaitu ondoren, McGraw-ren Philliesek bere dibisioko koroa irabazi zuten hurrengo hiru denboraldietan. Hala ere, ezin izan ziren Munduko Serieetara iritsi, Cincinnatiko "Big Red Machine" taldeak 1976ko NLCS-an gainditu baitzuen.
Hurrengo bi denboraldietan Los Angeleseko Dodgers-en aurka jokatu zuten.