É considerado uma das figuras mais originais da música popular brasileira, tendo participado ativamente do movimento musical conhecido como Tropicália nos anos 1960 e se tornado uma voz alternativa influente no cenário musical do Brasil. A partir da década de 1990 também passou a gozar de notoriedade internacional, especialmente devido à intervenção do músico britânico David Byrne. Tom é torcedor fanático do Corinthians, tanto é que, em 1990, fez uma música em homenagem ao jogador Neto, o Xodó da Fiel, em alusão à sua não convocação para a Seleção Brasileira que disputaria a Copa do Mundo de 1990.
Inspirou sua atuação como artista na figura do "homem da mala". O homem da mala era um personagem muito recorrente no interior do Brasil, tratava-se de mercadores que viajavam pelas cidades vendendo produtos variados. Como estratégia para melhorar as vendas, esses homens promoviam verdadeiros shows em praça pública, onde demonstravam a utilidade de seus produtos. Tom Zé conta que ficava maravilhado ao ver como o "homem da mala" era capaz de transformar um local comum em um palco improvisado e colocava-se como artista diante de uma plateia popular amparado apenas por sua capacidade de improviso e de entreter os outros através de narrativas.
Na mesma época, se alia a Caetano Veloso, Gilberto Gil, Gal Costa, Maria Bethânia e Djalma Corrêa no espetáculo Nós, Por Exemplo nº 2, no Teatro Castro Alves, em Salvador. Com o mesmo grupo, vai a São Paulo encenar Arena Canta Bahia, sob a direção de Augusto Boal, e grava o álbum definidor do movimento Tropicalista, Tropicália ou Panis et Circensis, em 1968.Em 1968, leva o primeiro lugar no IV Festival de Música Popular Brasileira, da TV Record, com a canção "São Paulo, Meu Amor".Tom Zé foi de grande importância para a construção do movimento. Inclusive, chegou a dar aulas de música para Moraes Moreira, que viria a formar a banda Novos Baianos.
Como é notável no seu disco de 1968, "Grande Liquidação", Tom Zé carregava fortes traços tropicalistas em suas canções e era também um dos expoentes do movimento, tendo inclusive participado do disco "Tropicália ou Panis et Circensis". Porém, por desencontros e desentendimentos, acabou se afastando do tropicalismo, de onde sua imagem foi sendo aos poucos apagada. Tom Zé chegou a ser chamado de "Trótski do tropicalismo", em referência ao marxista cuja participação na Revolução Russa foi apagada durante o gorverno stalinista.
Passou a década de 1970 e 1980 avançando ainda mais seu pop experimental em álbuns relativamente herméticos, sem atrair a atenção do grande público. No final dos anos 1980, é "descoberto" pelo músico David Byrne (ex-Talking Heads), em uma visita ao Rio de Janeiro, que lança sua obra nos Estados Unidos, para grande sucesso de crítica. Lentamente sua carreira vai se recuperando e Tom Zé passa a atrair platéias da Europa, Estados Unidos e Brasil, especialmente após o lançamento do álbum Com Defeito de Fabricação, em 1998 (eleito um dos dez melhores álbuns do ano pelo The New York Times). Tom Zé compôs, na década de 1990, música para balés do Grupo Corpo.Em 2006 foi lançado o filme Fabricando Tom Zé, um documentário de Décio Matos Jr, sobre a vida e obra do músico.
1997 - "Parabelo" - Trilha sonora da Cia. de Dança Grupo Corpo (com Zé Miguel Wisnik)- Continental/Warner Music