Neljä vuotta myöhemmin Heinz pääsi toistamiseen Luxemburgin joukkueeseen 23-vuotiaana vuoden 2004 kesäolympialaisiin Ateenaan. Hän saavutti B-standardin 26.41 (50 m vapaasti) ja 57.14 (100 m vapaasti) Euroopan pitkän pallon kilpailussa Luxemburgissa. Heinz voitti 100 metrin vapaaseen tyyliin Unkarin Ágnes Mutinan ja otti viidennen sijan kolmannessa erässä ja kolmekymmentäkuudes kokonaisuudessaan 0,70 sekuntia, aika 57,40. 50 metrin vapaasti
Heinz sai islantilaisen Ragnheiður Ragnarsdóttirin viidennellä kierroksella voiton yhdellä sadasosan erolla (0,01), rikkomalla Luxemburgin ennätyksen 26,35 sekunnissa. Hänen myrskyttävä voittonsa ei ollut riittävän vähäinen, jotta hän pääsisi puolifinaaliin, koska Heinz sijoitti kolmannekymmenennen 75 uimajan joukossa aamupäivän ennakkootteluissa.