高雄位於京都北部的山峽地區，自古以來便是僧侶刻苦修行之地。8世紀時此地曾建寺院，不過於12世紀時廢寺。頗負影響力的明惠（1173-1232）於1206年受天皇之命重建寺院，佛教亦因此再度興盛。高山寺正如其名，是「高山上的寺院」——引用自華嚴宗重要經典《華嚴經》其中一節。寺院名的一般日文念法為「Kouzanji」，而正式念法應為「Kousanji」。

明惠用盡一生研究及修行佛教，高山寺因此以「學問之寺」廣為人知。他亦愛好藝術，時常邀請知名藝術家及有識之士至高山寺，造就了濃厚的文化氛圍。從美術及文學創作欣欣向榮的平安時代（794-1185），到佛教新思想在日本廣為流傳的鎌倉時代（1185-1333），明惠醞釀的文化環境傳承不息，並留下無數寶物。許多寺院中的畫作、雕像、文書倖免於16世紀的祝融之災，保存至今狀態仍相當完好。

明惠亦是推廣日本茶的知名人物。他曾將茶樹種於高山寺附近，寺院目前仍保留小塊茶園，每年收穫茶葉。日本茶界至今仍非常尊敬明惠，感謝他對茶文化傳統做出的重要貢獻。

1994年，高山寺獲登錄為世界文化遺產。