Le peuplement de Ségovie est fort ancien. À l'endroit qu'occupe aujourd'hui l'Alcazar se trouvait une place forte celte. Pendant l'époque romaine, Ségovie appartenait à la juridiction impériale («convent») de Clunia (dans l'actuelle province de Burgos). On pense que la ville fut abandonnée suite à l'invasion islamique. Après la conquête de Tolède par Alphonse VI de Castille, le gendre de ce dernier, le comte Raymond de Bourgogne amorce avec le premier évêque du diocèse le repeuplement de Ségovie avec des chrétiens originaires du nord de la péninsule et de par-delà les Pyrénées, et la dote d'un territoire considérable dont les terres traversent la sierra de Guadarrama et le Tage.