A ilha de Caldey
De Tenby saem barcos (só para pedestres) para a ilha de Caldey, onde existem sítios históricos da Era Cristã Antiga. A ilha foi habitada desde o século VI por ermitães e monges cristãos celtas do mosteiro de São Illtud (em Llantwit Major, no condado de Glamorgan).
Um livreto com a denominação "A Vida de São Sansão de Dol", escrito no século VII, já se refere a um mosteiro na ilha e dá o nome do abade: Pyro. Esse abade trabalhava com as próprias mãos e aparentemente morreu afogado numa noite no poço do mosteiro. Desse abade vem o nome galês da ilha Ynys Pyr (ilha de Pyro).
Pyro foi sucedido pelo abade São Sansão, que esteve em Caldey entre 550 e 552 d.C. Ele depois foi para a Bretanha (França), onde se tornou bispo de Dol.
Na igreja de St. Illtud há uma pedra com inscrição em ogham (típica do século IV). O especialista John Rhys leu:
MAGL DUBR
e a interpretou por "o servidor tonsurado de Dubricius". Dubrício foi o primeiro bispo de Llandaff a visitar a Ynys Pyr todos os anos. Na parte superior da pedra existe uma inscrição em latim estropiado, que se acredita ser do século IX e diz: E eu a provi com uma cruz. Peço a todos que andam por esse lugar que rezem pela alma de Cadwgan.
Et singno curcis in illam fingsi rogo omnibus ammulantibus ibi exorent pro anima Catuoconi
A ilha foi invadida pelos viquingues noruegueses e se crê que seu nome atual derive da língua deles: keld (fria) e eye (ilha). Não se sabe o que ocorreu ali entre os séculos VII e XII, uma vez que não há vestígios de povoado viquingue, como em outros pontos das ilhas britânicas.
Em 1113 o rei Henry I da Inglaterra doou a ilha a Robert FitzMartin, filho de Martin de Cemaes, nobre normando. E este a deu a sua mãe Geva, que por sua vez a deu em 1115 a São Dogmaels, beneditino.
O mosteiro foi dissolvido em 1536 e a região dada a John Bradshaw em 1543 e ficou na família até 1653. A seguir, passou para a família de Reeve Williams por mais um século. Depois de várias transações, o local foi comprado em 1906 pelos beneditinos anglicanos.