Completa la següent frase: Només queden alguns fragments dels murs del segle IV; per exemple, el mur romà original és visible al límit sud de l'església parroquial de Sant Pere i Sant Pau. L'àrea ocupada per la fortalesa ara està classificada com a monument antic. L'església de Sant Pere i Sant Pau, que està tancada dins de la fortalesa, té una
Torre anglosaxona. La plaça del mercat es troba al cor d'una àrea de conservació que conté 56, principalment Grade II, edificis catalogats. En termes numèrics, el nombre d'edificis catalogats fa de Caistor l'àrea de conservació més important de l'àrea de West Lindsey; molts dels edificis són georgians o victorians. Els edificis notables de la ciutat inclouen l'Escola de Gramàtica de Caistor, fundada el 1633, i Sessions House, construïda el 1662.