Completa la següent frase: Quatre anys més tard, Heinz es va qualificar per al seu segon equip luxemburgués, amb 23 anys, als Jocs Olímpics d'estiu de 2004 a Atenes. Va aconseguir temps d'entrada estàndard B de 26.41 (50 m estil lliure) i 57.14 (100 m estil lliure) de l'European Long Course Meet a Luxemburg. En els 100 m d'estil lliure, Heinz va superar a l'hongaresa Ágnes Mutina per prendre el cinquè lloc en la tercera prova i el 36è en la general per 0,70 de segon, amb un temps de 57,40. En el
En els 50 m lliure, Heinz va tocar a Ragnheiður Ragnarsdóttir d'Islàndia per a un triomf en la cinquena prova per una única centèsima de marge (0,01), trencant el rècord luxemburguès de 26,35 segons. La seva victòria no va ser suficient per passar a les semifinales, ja que Heinz es va situar en el trentè lloc de 75 nedadors en les preliminares de la matinada.