中国各地有很多香山寺，比较著名的有18家，最著名的有北京香山寺、洛阳龙门香山寺等，形成了一种独特的香山寺文化现象。在这众多的香山寺中，平顶山香山寺是建筑最早的东土“真香山寺”。“香山”之名源于佛教经典。据记载，佛教创始人释迦牟尼出生地迦毗罗卫国都城（佛教经典中称其为父城）附近有山名叫香山，是大悲观世音菩萨得道之地。随着佛教的传入，香山之名也来到我国。

　　平顶山香山寺是最早称香山寺的观音道场。香山寺所在香山山峰原名火珠山。金代的学者、诗人元好问在其《东游略记》中称：“寺初建时，一胡僧自西域来，云此地山川甚似彼方香山”，于是依照佛教圣地香山寺修建了供奉大悲观世音菩萨的寺院，亦名香山寺。

　　把火珠山改名香山的还有另外一个重要原因。在此山的东北数公里处，有汉魏父城。父城的前身是春秋时代楚国城父邑，这样东土中国的父城与天竺佛教圣地父城城名的巧合，也成为西域高僧选火珠山建香山寺的一个重要原因。佛教讲究佛缘，形似名同使平顶山香山成为中国最早的观音道场，也是中国最早的香山寺，被奉为“真香山寺”，后来，佛教由中原向外传播，香山寺也在各地相继建立，但平顶山香山寺作为中国香山寺的祖寺地位是不可动摇的。