鲁山大佛这里原是唐朝的佛泉寺，年久失修，已经破败不堪。相传贞观初年，李世民夜做一梦：梦见佛祖站在中州之玉枕山上，下为娑婆汤池（汤池意为：地下涌出的温泉）向众生遍洒甘露。李世民为之一震，知是佛祖点化，遂依境画形，命臣子到中原大地去寻觅。

自鲁山县过下汤进中汤而寻自上汤（上汤亦称乱汤，意指地下温泉处处奔涌，纵横交错而无固定的走势。），臣子们见玉枕山峦与图形相为吻合不禁喜出望外。此山的河南边有多处温泉喷发，水质极好，温度适宜，能治百病，利于众生的健康。河北面则见山势轩昂，紫气冲天，即于山前的最佳处建成了“佛泉寺”，了却了唐太宗的一桩心愿。彼时唐太宗正励精图治，开创“贞观之治”。