說到地府應該在女媧造人之後說起，女媧造人每造一人留一粒沙，日積月累形成一塊石頭，這石頭分三層，名曰三生石。世間本無地府，諸神不死不滅，無需地府。但女媧造人後，人類生命有限，那麼死後去哪就成了問題。為此諸神找尋一個地方，在山海經中記載北海之內有山，名曰幽都之山，淌之黑水。為此天帝命后土皇帝（古神）在此建立幽都地府。
後仙古時代因仙死後無地去天庭又在設立泰山地府。
後佛教也要求設立地府度化世間惡，就在幽都山設立陰曹地府。
起初三府而立，沒有明確制度。地獄餓鬼三方拉皮條，導致惡鬼橫行。諸神不得不插手。為此后土皇帝命幽都大帝坐鎮幽都地府，酆都大帝又稱北陰大帝、北太帝君，主管酆都城，也就是所謂的地獄。在道教神話體系中，酆都大帝是中天北極紫薇大帝在幽冥界的化身，因而是地獄的最高神，是五方鬼帝和十殿閻王的頂頭上司。 地藏王菩薩是佛教神話體系中的尊神，因其「安忍不動如大地，靜慮深密如秘藏」，故稱「地藏」。地藏王菩薩曾受佛祖釋迦摩尼囑託，在其滅度以後、彌勒佛未誕生前的無佛之世，肩負教化眾生免於沉淪地獄的重任，因此地藏王菩薩發下宏願 地獄不空誓不成佛。形成了地藏王監管，幽都大帝全全掌管地府。而泰山地府也移到地面，設立城隍廟實行城隍制度。
至此地獄格局正式形成。女媧便把三生石放在忘川河畔，希望人回看自己一生，可以迷途悔改。