Il tempio è stato fondato nel 778 da Sakanoue no Tamuramaro, e i suoi edifici attuali sono stati costruiti nel 1633, ordinato dal Tokugawa Iemitsu. Non c'è un singolo chiodo utilizzato in tutta la struttura. Prende il nome dalla cascata all'interno del complesso, che scorre dalle colline vicine. Kiyomizu significa acqua chiara, o acqua pura. Originariamente era affiliato con la vecchia e influente setta Hossō risalente ai tempi di Nara. Tuttavia, nel 1965 ha tagliato quell'affiliazione, e i suoi attuali custodi si chiamano membri della setta "Kitahossō". Domanda: In quale anno hanno tagliato la loro affiliazione con la setta Hosso?
Il 1965