Nazioarteko mailan, Kovač 2002ko Munduko Koparako sailkatzeko bost partidetan aritu zen Kroaziarentzat eta gol bat sartu zuen Kroaziaren 4<unk>0ko garaipenean San Marinoren aurka. Finaleko txapelketan, hiru taldekako partidetan jokalari titular gisa agertu zen, Kroaziak txapelketatik kanporatu aurretik, bere taldean hirugarren postua lortu zuenean. UEFA Euro 2004ko kanporaketan ere ohiko jokalari izan zen, zazpi agerraldi egin eta bi gol sartu zituen kanpoko partidetan, Estoniaren aurkako 1-0eko garaipenean eta taldearen 3-0ko garaipenean Andorraren aurka. Horrez gain, Kroaziako taldeak Euro 2004ko finalean jokatutako hiru talde partiduak ere jokatu zituen.
Portugaleko final batean gol bat sartu zuen, lehen gol gisa, eta gero Ingalaterrarekin jokatu zuen. Hala ere, Kroaziak partida galdu zuen 4<unk>2 eta, berriro ere, txapelketatik kanporatua izan zen bere taldean hirugarren postuan zegoen nazio gisa.