In 1969 vormde hij "The Tony Williams Lifetime", een trio met John McLaughlin op gitaar en organist Larry Young. Basgitarist Jack Bruce werd later toegevoegd. Het trio mixte rock, R&B, en jazz en wordt gezien als een pionier in de fusion genre. Hun album Emergency! wordt weleens als een klassieker van de jazzfusion beschouwd. De band werd opgeheven in 1975.
Het volgende jaar begon Williams "The New Tony Williams Lifetime", met bassist Tony Newton, pianist Alan Pasqua en gitarist Allan Holdsworth. Ze namen twee albums op voor Columbia Records, Believe It en Million Dollar Legs. Nadien speelde hij met een keur aan artiesten, waaronder Public Image Ltd.
Williams leefde en onderwees percussie in de San Francisco Bay Area toen hij in 1997 stierf aan een hartinfarct.