在《西遊記》中，孫悟空每到一個陌生的地方，便會拿出金箍棒往地上一砸，然後就會冒出一個身形矮小、面容可鞠的土地神，畢恭畢敬地向孫悟空講述當地的情況。可以說，大多數人想起土地神，都會想起這一經典畫面。
神仙鬼怪這一類虛構的人物原本是不存在的，但在中國幾千年的歷史上卻形成了獨特的文化，時至今日，人們對鬼神都懷有崇高的敬意，不敢有絲毫的怠慢。而土地神這一神仙體系中最底層的群體，和老百姓走的最近，香火也最為旺盛，幾乎遍及鄉野。
土地神最早叫「社神」、或社公，社就是土地的意思，所以後來也稱土地神、土地爺。人們對土地的崇拜起源甚早，《禮記·郊特牲》曰：「地載萬物，天垂象，取財於地，取法於天，是以尊天而親地也。」這是對於皇天后土的原始崇拜，還沒有演化為人格化的神靈，但後來各種傳說的流布以及上古英雄的神化，有名有姓的神就愈發多了起來。
只不過，人們意識到，這塊給予他們豐厚收穫的土地實在是太過廣袤了，耕種又是那麼辛苦，每一塊土地上人都希望社神能讓自己的物產更豐富，解決這個矛盾的最好辦法就是分社。自東晉以後，隨著封建國家從中央到基層的官僚制度的逐漸完善，土地神也演變成為在道教神階中只能管理本鄉本土的最低級的小神。
當時，有二十五戶為一社的，有一百戶為一社的，於是社又成了一個小的行政單位，而社神也就成為一個集體的稱呼。每一個社神負責一個這樣的行政單位，他們的地位，就相當於封建王朝最卑微的地方官，有時是裡長、村長之流，大一點也就是個知縣（土地神的上司是城隍，相當於知縣和知府）。
大約到了南北朝，土地神有了各自的名字，《三皇經》云：「豫州社神，姓範名禮；雍州社神，姓修名理；梁州社神，姓黃名宗；荊州社神，姓張名豫；揚州設神，姓鄒名混；徐州社神，姓韓名季；青州社神，姓殷名育；兗州社神，姓費名明；冀州社神，姓馮名遷。」
這些社神的來歷身世多不可考，當然也不用考，因為社神似乎始終在變動著，人們根據需要，會不斷地增減或更新換代社神，尤其是那些生前作過善事或被認為廉潔的官吏更是一方土地的首選。如唐代的韓愈，文章彪炳，又有識人薦人之能，所以就奉為翰林院及吏部的土地神；而嶽飛的故第在臨安太學，因此他就成了太學的土地神。
老百姓雖然沒有將土地神供奉在家裡，但無論城市或鄉村，不管繁榮還是荒涼的地域，都有他們的身影，《西遊記》中火焰山有土地、玉華洲有土地，就連天宮的蟠桃園都有土地，可以這麼說，只要腳踏上黃土，便有一方神靈在注視和護佑著，這就是土地神。
中國許多地區的習俗，每個人出生都有「廟王土地」——即所屬的土地廟，類似於每個人的籍貫；人去世之後，道士做超度儀式（即做道場）時，都會去其所屬土地廟作祭祀活動。或者是新死之人的家屬，到土地神廟，稟告死者姓名生辰等資料，以求土地神為死者引路。
或許是土地神實在太多，人們不耐煩記那麼多名字，又或許是土地神總是在不斷的變動之中，讓人摸不著規律，祭祀起來也就頗為不便。於是，土地廟裡供奉的神像面貌氣質開始統一起來，絕大多數成了白髮蒼蒼的老叟，也就是俗稱的土地公公，有的身邊還坐著妻子，人稱土地婆婆。
公公婆婆慈祥的面容讓人覺得溫暖，即使他鄉的遊客也每每感受到慈父慈母的親切，因此土地廟的香火從來沒有間斷過。只是，土地神的名字又漸漸消失了，人們只記得他管轄的區域，並用這個區域的名字來稱呼他們了。