Heiligenstadtissa asuttiin ensimmäistä kertaa yli 5000 vuotta sitten. Myös roomalaisten asutuksen jälkiä on löydetty. Vuonna 1872 Heiligenstadtista löydettiin muurin jäänteet, jotka todistavat, että tällä alueella oli kerran roomalainen torni, osa limesistä. Jakobskirchen (Pyhän Jaakobin kirkko) lähellä on myös löydetty roomalainen hautausmaa, samoin kuin avareiden hauta 6-luvulta. Frankit seurasivat ja asettuivat Heiligenstadtiin ensimmäistä kertaa noin vuonna 900. Alun perin asunnon keskus oli nykyisen Pfarrplatzin ympärillä, ja siihen kuului alueen ensimmäinen kirkko. Asukkaat olivat maanviljelijöitä, jotka olivat suurelta osin riippuvaisia omasta tuotannostaan. He saivat myös rapuja ja kaloja Tonavan länsiosasta (jossa nykyään sijaitsee Heiligenstädter Straße). Viiniä tuotettiin myytäväksi; viinikelloja löytyy vielä tänäkin päivänä Heiligenstädter Straßen vieressä olevasta kukkulasta. Klosterneuburgin luostari omisti viinitarhoja Heiligenstadissa jo vuonna 1250. Vuonna 1304 piispa Weinhardt von Passau antoi luostarille oikeuden ottaa haltuunsa Heiligenstadtin seurakunnan seurakunnan papin kuoleman jälkeen. Heiligenstadt oli keskiajalla yksi alueen rikkaimmista asutuksista. Vuonna 1318 on dokumentoitu koulu; se oli luultavasti ainoa alueella. Kuten monet muutkin Wienin esikaupunkipaikat, Heiligenstadt kärsi kovasti 1500- ja 1500-luvuilla tapahtuneiden levottomuuksien aikana. Matthias Corvinus tuhosi Heiligenstadtin vuonna 1484, kun taas turkkilaiset ryöstelivät ensimmäisen
Wienin piiritys vuonna 1529 vahingoitti suuresti Jakobskircheä ja Michaelskircheä (Pyhän Mikaelin kirkko). Jälkimmäinen pystyttiin kuitenkin palauttamaan vuonna 1534 Döblingin, Grinzingin, Nußdorfin ja Heiligenstadtin asukkaiden lahjoitusten ansiosta.