Le premier établissement sur le territoire de Budapest est attribué à des tribus celtiques. Au cours du premier siècle de notre ère, une fortification romaine sur le territoire de l'actuelle Óbuda (maintenant partie de Budapest) s'est progressivement développé et a formé la ville d"'Aquincum" qui est devenu la capitale de la province de Basse-Pannonie en 106. Les Romains fondèrent également une forteresse connue sous le nom de "Contra Aquincum" de l'autre côté du fleuve qui aurait par la suite crée la ville de Pest. Ces fortifications faisaient partie du limes, marquant la frontière orientale de l'empire, et a été progressivement abandonné par Rome pendant le début du , devenant une partie de l'empire Hun pendant quelques décennies. Les Huns étaient une confédération de diverses nations et de tribus nomades qui habitaient la steppe eurasienne, et non des Magyars, mais Attila, le roi des Huns, est néanmoins considéré comme un héros national et Attila est un prénom assez courant en Hongrie.