Filho de Sante (ou Santo) Pietro Aloisio da Palestrina e Palma Veccia, Giovanni Pierluigi da Palestrina nasceu provavelmente em Palestrina, nos arredores de Roma, onde Sante e Palma viviam, ou talvez na própria Roma, onde um Santo di Prenestino (antigo nome da cidade de Palestrina), que tem sido identificado como seu pai, viveu nos anos em torno do seu nascimento. A data é também objeto de polêmica. Em geral aceita-se o ano de 1525.[1][2] Seu nome foi grafado de várias maneiras: Giannetto (Gianetto/Zanetto) da Pallestrino ou Pelestino, Giovanni Pietro Luigi da Panestrina, em latim Joannes-Petrus-Aloysius Praenestinus, e em seus anos finais adotou a forma Giovanni Pietraloysio.[3]
Seu talento musical se manifestou na infância mas sua formação é obscura. Pode ter iniciado seus estudos com o organista da Catedral de Palestrina. Em 25 de outubro de 1537 aparece listado entre os meninos cantores da Basílica de Santa Maria Maior em Roma, mas sua admissão pode ter ocorrido vários anos antes.[2] É possível que essa vantajosa colocação, que dava também escola, educação musical, moradia e sustento, tenha sido conseguida por intermédio de Andrea della Valle, bispo de Palestrina e arcipreste de Santa Maria Maior. Estudou primeiro com Robin Mallapert, e depois provavelmente com um certo Roberto (talvez Robert de Févin) e Firmin Le Bel. Em 1544 retornou à sua cidade natal e assumiu o posto de organista da catedral. Seus deveres, além de tocar órgão aos domingos e dias de festa, incluíam ensinar e cantar no coro todos os dias, na missa, nas vésperas e nas completas.[1][4] Seu excelente desempenho chamou a atenção do bispo Giovanni Maria Ciocchi del Monte. Em 1547 casou-se com Lucrezia Gori, que lhe daria três filhos: Rodolfo, Angelo e Iginio.[5]
Com a eleição do bispo Giovanni ao papado, com o nome Júlio III, em 1551 foi chamado a Roma para ocupar a função de diretor do coro da Capela Júlia, o que na prática o tornou mestre de capela da Basílica de São Pedro, a principal instituição musical do papado, uma posição detentora de imenso prestígio. Em sinal de gratidão, em 1554 Palestrina dedicou-lhe sua primeira obra publicada, um livro de missas com quatro peças, que já demonstram um perfeito domínio do estilo polifônico da escola franco-flamenga, então preferido em Roma, e no ano seguinte, cedendo a posição de mestre de capela a Giovanni Animuccia, foi designado compositor da basílica, um cargo também ilustre, e foi nomeado cantor do coro da Capela Sistina, um ato de deferência excepcional que tem sido atribuído ao reconhecimento dos seus méritos compositivos, uma vez que era casado (salvo dois outros cantores, todos os outros eram clérigos celibatários), tinha uma voz que não era considerada notável, e sem a consulta aos outros cantores, como era a praxe.[2][4][5]