石山観音は、古来霊験あらたかなる安産の観音さまとして信仰を集めてきました。本尊は十一面観音菩薩です。開創は明確ではありませんが、敏達(びだつ)天皇の頃(570年頃)であろうとも言われています。当初は大悲堂(だいひどう)と呼ばれ、天台宗(てんだいしゅう)の石山寺と称する小さな寺でした。
以後、長い年月が流れ、応永六年(1399)に中興の人と称される実庵(じつあん)和尚が来山時、日州亀石山(にっしゅうきせきさん)福聚寺(ふくじゅじ)と改めて曹洞宗(そうどうしゅう)の寺となりました。 安永四年(1775)には寺号がもとの石山寺に戻ります。島津家菩提寺(ぼだいじ)福昌寺(ふくしょうじ)(曹洞宗)の末寺となるも、明治初めに行なわれた廃仏毀釈(はいぶつきしゃく)により廃寺に至りますが時を待たずして明治十三年十月には再興され現在に至っています。
最近では平成十四年、石山第九自治公民館を中心とした石山地区民の努力によって、観音堂周辺や参道の荒廃放置箇所への開発整備が行われました。その結果、苔むしていたお堂横の通称ひづめ岩も出現しました。同年九月十八日、本尊の十一面観音像と弘法大師像の落慶法要が新たに着任した真言宗僧侶によって行われ、現在は真言宗のお寺(堂)として歴史と先人の威徳を受け継ぎ大切に育んでいます。