Osatu esaldi hau: Philliesekin, bere lanarekin jarraitu zuen, errelebo pitcher fidagarri gisa, bere bigarren karrerako All-Star izendatzea lortu zuen Filadelfiako bere lehen denboraldian, nahiz eta ez zen partidan agertu. 1975ean Piratesen atzetik bigarren amaitu ondoren, McGraw-ren Philliesek bere dibisioko koroa irabazi zuten hurrengo hiru denboraldietan. Hala ere, ezin izan zuten munduko txapelketara iritsi, Cincinnatiko Big Red Machine taldeak garaitu baitzituen.
1976ko NLCS, eta Los Angeles Dodgers-en esku geratu zen hurrengo bi denboraldietan.