"石敢當"的傳說已經非常久遠了。在黃帝時代，這一日，蚩尤來到泰山，用八隻腳登上山頂，放開六眼望去，天下盡收眼底：「我欲鎮天下，天下誰敢當？」
蚩尤殘暴好戰，百姓憂苦，女媧娘娘要制其暴，於是投下鍊石，在上面刻了五個大字"泰山石敢當"，蚩尤一見怒不可擋，上前想要毀壞這塊大石頭，無耐卻怎麼也損壞不了，只好悵然逃之。
"石敢當"是避邪之物，如果建築於垃圾場、醫院太平間、墓場等不潔之地，可用"石敢當鎮壓避兇。
鎮宅石上出現"石敢當"字樣應該是在唐朝末年。宋代王象之的《輿地碑目記》中記載，慶曆年間，福建莆田縣令張緯維修縣治，出土一塊石碑，上刻「石敢當，鎮百鬼，厭災殃，官吏福，百姓康，風教盛，禮樂昌。」
傳說泰山石敢當降妖
泰安城南有一人家，老兩口膝下有一女兒，女兒二八年齡，貌美如花，忽一日太陽快要下山時，就見從東南方刮來一股旋風，遮天蔽日，吹開姑娘的屋門，之後門窗就緊閉，無論怎樣都是打不開這緊閉的門窗。一連數日，這個姑娘變得面黃肌瘦，非常虛弱。
老兩口商量一定是妖氣纏身，聽說泰山上有個石敢當，能除妖請他來看看，於是就找到了石敢當，石敢當便答應了老兩口的請求一同前來。到了家裡石敢當吩咐，找十二對童男童女，每人手拿一面鑼，還要一盆香油，要一斤棉花搓成粗燈芯，要一口大鐵鍋，一把椅子，老兩口一一備齊。在太陽快要落山時，石敢當把燈芯放在香油盆裡，點燃了燈芯，再用鍋把盆子扣住，坐在椅子上旁邊，用腳墊著鍋沿。一切準備就緒，就見東南方向刮來一股妖風，等那妖風颳近，石敢當一腳踢飛那口鍋，油燈立刻放出了耀眼的光芒。十二對童男童女同時敲響了鑼。那妖怪突地見到了耀眼的光亮，又聽見咣咣的山響，不知道是什麼陣勢，慌忙逃串，一路向南逃到了福建，在福建又開始興風作浪，殘害良家婦女。 後來有人說，泰山有個石敢當能驅除妖怪 ，就去人把石敢當請到了福建。老妖怪聽說石敢當來了，就又一股風颳到了東北。石敢當就又去東北。
後來石敢當就用泰山的石頭刻上：「泰山石敢當」送與那些鬧妖風的家裡，把刻有石敢當的石頭立於門外，妖怪就不敢進去了。
泰山石敢當降妖的事越傳越遠，為了避邪人們在蓋房子的時候，總是把刻有"泰山石敢當"的石頭砌在牆上或放在門口，擋煞闢邪。
設置"石敢當"是用來化煞。凡是宅第路衝、水衝，屋主為求平安，都在道路旁或牆上置"石敢當"。
石敢當習俗經歷了"石敢當"到"泰山石敢當"的發展，除了西藏和新疆，泰山石敢當習俗遍布全國各地，並且流傳到東南亞各國以及朝鮮、日本、韓國、歐洲和美國的唐人街。石敢當的職能從降妖演變到鎮宅、化煞、治箔、門神、闢邪、防風等的轉變。