位于灵山麓的灵山寺始建于唐朝,由唐明皇之女受命在此营建,建成后在此修行。皇姑故后,被封为国庙。明朝开国皇帝朱元璋,贫困时在此受到寺僧的施舍,登上皇帝宝座后,朱元璋亲往降香,敕封金碧峰禅师为主持僧,并亲笔题定了“圣寿禅寺”4个大字。灵山寺与东南亚佛教往来甚密,在东南亚,尤其是在印度享有盛誉,印度总理赫鲁访华时提出拜谒灵山寺,因交通不便而未能成行。寺院分为三进,中院有一水井,其味甘美无比,为灵山泉之一窍,名为“圣井”。传说这股山泉是从后殿佛祖座下喷出,经中殿流入院内而得名,列灵山入景之冠,名为“圣寺圣景”。寺内西厢院有一株上粗下细的“倒栽柏”传说为宋时寺内主持和尚昊英所栽。昊英和尚是否得道无人知晓,但倒栽柏至今枝茂叶碧,无限生机。灵山寺僧源于北京西山,主持“鹅头禅师”终日静坐修行,头发长久不剃,以后代代相传,都不剃头,许多佛门人称他们为“恨头僧”,灵山寺还是全国屈指可数的僧尼合一寺庙。农历三月一日是灵山寺的传统庙会,逢会的数天之中,弯弯的山道上车水马龙,游客络绎不绝,高峰时期日逾数万人。
灵山寺还是革命战争年代的历史见证。1939年,李先念同志在此住,并在此主持了鄂豫皖边界重要军政会议,我军不少高级将领都在这里留下了战斗的足迹。