L'edificio d'a seu fue construyito en 1140 con o nombre de St Augustine's Abbey u abadía de San Agustín, por Robert Fitzharding, un rico hombre local, que tamién fació construyir o castiello de Berkeley ta esfender os accesos ta Bristón y o estuario d'o río Severn. D'entre o sieglo XII se bi construyoron nuevos edificios de piedra, totz en estilo normando (nomás bi ha actualment a casa abacial y a sala capitolar, a más d'una puerta d'estilo romanico que yera en as cambras de l'abat).