Het boeddhistische klooster werd in 816 opgericht door de bekende monnik Kobo Daishi, de stichter van de invloedrijke Shingonsekte. Toen Kobo Daishi in 835 stierf, werd hij op het tempelterrein begraven. Rondom zijn graf ontstond een begraafplaats van een ongekende omvang. Deze begraafplaats noemt men 'de dodenstad van Koya-san'. Bezienswaardig is de gebedsmolen van twee verdiepingen, die de vorm heeft van een pagode. In deze reusachtige gebedsmolen, die om zijn as kan draaien, worden in een holle cilinder boeddhistische sutra's (religieuze spreuken) bewaard. Elke keer als de gebedsmolen wordt gedraaid, staat dit gelijk aan een keer opzeggen van de bewaarde sutra's. Het opzeggen van deze spreuken gebeurt dus als het ware op mechanische wijze; zo konden in het verleden ook degenen die niet konden lezen de religieuze spreuken hemelwaarts zenden. Gebedsmolens zijn in Japan zeldzaam, zij zijn in wezen meer typerend voor het Tibetaanse boeddhisme (het lamaïstische boeddhisme). In het tempelmuseum is een verzameling religieuze kunstschatten tentoongesteld.

Trein en kabeltram Koya-San:

Neem op het treinstation Kyoto of Nara de JR-trein naar Hashimoto. Hier stapt u over op de Nankaispoorlijn naar het treinstation Gokuraku-bashi. Vanaf het treinstation Gokuraku-bashi rijdt een kabeltram naar de top van de berg Koya. Totale rijstijd circa 2 uren. Het treinstation Namba in Osaka heeft een directe spoorverbinding met het treinstation Gokuraku-bashi.