Sinh ra ở Linz, Áo, với cha mẹ là người Bosnia-Croat đã chuyển đến đó từ Kotor Varoš ở Bosnia và Herzegovina, Kovačić bắt đầu chơi ở độ tuổi sớm tại học viện LASK Linz địa phương. Năm 2007, khi Kovačić 13 tuổi, anh được phát hiện bởi các trinh sát từ một số câu lạc bộ nổi tiếng châu Âu, bao gồm Ajax, Inter Milan, Juventus và Bayern Munich, nhưng gia đình anh đã chọn chuyển đến Zagreb thay vì đó, nơi anh gia nhập học viện của Dinamo Zagreb.
13