Mykeneläinen Ateena
Ateena on ollut asuttu viimeistään neoliittisella kivikaudella. Varhaisimmat merkit asutuksesta ovat peräisin noin ajalta 4000 eaa. Merkittävimmät löydöt ovat jo tuolla ajalla Akropolis-kukkulan ympäristöstä. Kreikkalaiset heimot saapuivat alueelle myöhemmän pronssikauden alussa noin 1600 eaa. Varsinaisena kaupunkina Ateenasta voidaan puhua 1500-luvulta eaa. lähtien. Perinteen mukaan kaupunki olisi perustettu vuonna 1581 eaa. Akropolis säilyi asutuksen keskuksena myös tällä niin kutsutulla mykeneläisellä ajalla.
Bysanttilainen Ateena
Myöhemmin noin 500-luvulta lähtien kaupunkiin alettiin rakentaa myös uusia kirkkoja. Tuossa vaiheessa ne edustivat basilika-arkkitehtuuria. Muutoin kaupungin varhaisbysanttilaisesta kaudesta tiedetään suhteellisen vähän. 600-luvulla kaupunki ja sen ympäristö olivat ilmeisesti lähes autioina. Toisaalta 700-luvulla keisarinna Irene oli kotoisin Ateenasta, mikä kertoo, että kaupungissa oli tuolloin jonkinlaista yläluokkaa.