历史上蒙山的道教和佛教都非常兴盛。僧人道众对蒙山情有独钟，把这里当作-正果、养生长寿的圣地。主要道观有玉皇宫、雨王庙、清虚观、翠云观、九龙宫、观音殿、承天宫、慈宁宫等，香火鼎盛的寺庙有蒙山寺、明光寺、海螺寺和云台寺等。早在五代时期，任过后晋水部员外郎的贺亢就修道蒙山，北宋苏东坡曾和他的八十多岁的弟子乔仝有过交往并写诗相赠。宋朝蒙山玉虚观住持贾文，于宣和元年(1119年)被宋徽宗召见于汴京，赐给度牒、紫衣。明清时期，蒙山清虚观属全真道华山派，和道教“天下第一丛林”北京白云观有着密切联系。正是这些宗教的活动，给蒙山留下了多处宏殿重阁，并洋溢着黄卷青灯、钟响磐鸣的神秘气氛。

在民族、民主解放战争时期，蒙山是沂蒙山区革命根据地的重要组成部分。抗日战争时期，中国共产党领导的山东党政军首脑机关和八路军115师指挥部，在这里领导山东军民英勇作战，建立和扩大了山东各个抗日根据地。解放战争时期，中共中央华东局和华东野战军指挥机关，在此组织了举世闻名的孟良崮战役。如今，当年一些重大革命历史事件发生地和著名战场以及革命烈士陵园，都得到了很好的保护，有的并新修了纪念建筑物。