泰山周邊流傳著很多美好的民間傳說，其中最具代表性、影響最大的就是碧霞元君和泰山石敢當。
碧霞元君（當地人亦稱泰山奶奶）是道教的重要女神。民間傳說碧霞元君神通廣大，能保佑農耕、經商、旅行、婚姻，能療病救人，尤其能使婦女生子，兒童無恙。碧霞祠香火很旺，當地人對她信仰極盛，求子、求時運、求健康之人絡繹不絕。
泰山曾經每年都會舉行碧霞元君出巡儀式，出巡之日，來自全國各地的信徒和當地民眾準備鞭炮貢品，出巡線路沿途民眾跪拜行禮，求元君保佑，場面宏大、威嚴。
在泰山周邊，農村蓋房子一般都會求一個泰山石泰山石敢當鎮宅。相傳泰山腳下住著青年石敢當，在當地非常有名，愛打抱不平。有一姑娘中了妖氣，石敢當幫忙趕走了妖氣，但是趕他一次，他就去別處作惡。後來，石敢當想了一個辦法「請石匠在石頭上刻上我的家鄉和名字——泰山石敢當，誰家鬧妖風，就把這石頭放在誰家的門外，妖怪就不敢進去了。」
自此以後，泰山石敢當降妖的事越傳越遠。人們為了闢邪在蓋房子的時候，總是把刻有「泰山石敢當」的石頭砌在牆上或放在門口，用來闢邪。
美好的泰山傳說體現了善良的中國人民祈求能夠得到上天的保佑，希望風調雨順，天下太平以及對生活的熱愛，是大河文明影響下的中國人民思想狀態的體現。同時，也增加了泰山的神秘色彩，構成了獨具特色的泰山文化。
碧霞元君又稱泰山玉女、泰山娘娘、泰山老奶奶，顧頡則稱：「在道教裡，碧霞元君是一個很偉大的女神。」在泰山神祇信仰中具有無與倫比的影響力。一般認為：碧霞元君信仰興起於宋。宋真宗封禪時，「新玉女之像」，立龕以祀。據馬端臨《文獻通考》卷九十《郊社考》云：「泰山玉女池在太平頂，池側有石像。泉源素壅而濁，東封先營頓置，泉忽湍湧；上徙升山，其流自廣，清泠可鑑，味甚甘美。經度制置使王欽若請浚治之，像頗摧折，詔皇城使劉承珪易以玉石。既成，上與近臣臨觀，遣使礱石為龕，奉置舊所，令欽若致祭，上為作記。」此玉女即是後之碧霞元君。其信仰由此開始在泰山廣泛傳播。
若追溯其碧霞元君信仰之源，則源於東漢之時，當時山川崇拜與神仙家、道家思想交錯影響，爾後道教吸收山川信仰，認為名山必有仙人在焉。職是之故，漢末與道教有密切關係之曹操，於所作遊仙詩《氣出唱》中有「東到泰山，仙人玉女，下來翱翔」之辭,。自此「玉女」形象開始於泰山落地生根。如三國曹植《遠遊篇》、唐李白《遊泰山》等詩作中，皆出現泰山玉女形象。泰山之玉女池及池畔之玉女石像，亦是基於此一信仰而設置。宋真宗立龕祀玉女後，不久岱頂建有玉女之祠，並有官員進謁祈雪。入金源後，泰山玉女崇信進一步擴大，且影響至女真皇室。岱頂大觀峰有明昌間濮國公主題名云：「敬詣岱嶽，焚香致禮畢，明日遂登頂，拜於玉仙祠下。」
元代開始明確將玉女崇祀納入道教範疇。元杜仁傑《泰安阜上張氏先塋碑》中記泰山道士張志純於金貞祐之亂後重葺泰山祠宇，「自絕頂大新玉女祠，倍於故殿三之二；取東海白玉石，為像如人然，一稱殿之廣裒」。這是玉女祠自創建以來首次大規模拓建，其工由道士主持，其祠宇也自然歸屬道門管理。重修後玉女祠改額為昭真觀。昭意為昭示、彰明，真則為道徒對仙人的稱呼，道籍稱老子為真老，化生真妙玉女，觀名取意於此。
元明泰山女神升位成「碧霞元君」，影響遍及朝野。朝廷不斷下詔發帑重修岱頂昭真觀；明憲宗嗣位又開啟了致祭元君的先例；成化十九年（1483）重修昭真祠後，賜額為「碧霞靈應宮」。
清廷入主中原後，康熙帝登岱致禮碧霞宮，賜匾「坤元葉應」，宣示了清廷對元君崇祀的認同。雍正帝繼承這一政策，曾詔修碧霞宮，賜額「福綏海宇」，並在《碧霞祠寶幡步虛詞》中以「子視群蒙敷惠澤，母臨庇土荷帡幪」，「常將天福人間錫，獎孝褒忠佑萬方」之詞，表露了以元君佐治的政治思想。
乾隆一朝，不僅屢次敕修岱頂之祠，還在離宮內苑——圓明園與避暑山莊分建廣育殿與廣元宮，祀碧霞元君。乾隆二十四年（1759），乾隆帝發布詔旨，正式開啟遣使泰山、致祭元君的制度。這一典禮，一直延續至清室遜國，方告中止。
與此同時，元君廟祀亦由泰山漸向周邊傳播，由京師，而北直，而江南，漸成為普及全國的民俗信仰。