清凉寺原名清泠台,为西汉梁孝王刘武所筑。台高数丈,楼台亭榭,巍峨壮观。台下有池,名曰“绿池”。
相传赵匡胤在商丘任归德军节度使时,盛夏常到台上乘凉避暑。一天夜里蚊子嗡嗡作响,赵匡胤说:“不能清凉清凉吗?”于是蚊子尽去。后来佛教兴起,清泠台改名为清凉寺。盛夏三伏,台上依然凉风习习,没有蚊蝇。专家分析,是由于大殿的建筑材料所致。