土地爺作為道教中的神仙，與天上的玉皇大帝等神仙又有所不同，它類似於「鄉長」，專門管轄保佑屬於自己的一片土地。不過雖然他在神仙中的等級較低，但是卻是民間最信仰的眾神之一，但凡是有人居住的地方，就會供奉土地爺，許多農村依然會有土地廟的存在。
不過在神話故事裡裡，土地爺似乎能力也並不高，就如《西遊記》中，如果沒有妖怪的話，那麼土地爺能夠保佑一方，但是一旦妖怪出來興風作浪，土地爺也只有委曲求全，敢怒而不敢言。另外在民間雖然供奉了很多的土地廟，但大多數都是一個狹小又簡陋的神龕，完全不像其他的有著宏偉寶殿供奉的大神。在神話故事裡，土地爺的地位幾乎算是最低級的，只與門神，灶神等同類的小神是平輩，甚至連人間的有些官員都比土地爺的官大。一個神仙混得比凡人還差，這個的確是令人不可思議。
但其實一開始土地爺並沒有這麼憋屈的。有一種說法是說「土地神」是由「社神」演變而來，而對於社神的來源有兩種說法：一說社神是共工氏的兒子句龍；另一說則是由禹死後託祀於后土之神。而在殷周之時，社神的地位非常高，人們認為管轄萬物生長的正是社神，所以祭拜社神是當時整個國家十分重要的事情。
但是到了東晉之後，不論是句龍還是封神的禹，人們對其的崇拜漸漸變少了。據說社神被分為各個小地方，搖身一變成了土地神。之後，從東晉開始，對於土地爺的由來又流行起了另外的傳說。
據說最早的土地爺是漢代的蔣子文。蔣子文在漢代末年擔任秣陵尉一職。蔣子文在一次追捕盜賊的途中被盜賊害死，不久之後，蔣子文的一個下屬卻在路上看見了蔣子文騎著白馬，就像他生前的模樣。下屬嚇壞了，但是蔣子文追上他，對他說自己已是此地的土地神，要保佑這裡的平民百姓，希望下屬能夠上奏官員，帶領百姓修建祠堂祭祀，不然會有大禍臨頭。當地的人們感念蔣子文的付出，家事就按照他所說的話修建祠堂。也是因此，許多地方都流傳著對當地有功的人死後會變成土地神保佑一方的說法，於是大家也都採用了修祠堂來紀念他們。一來二去土地廟就遍布了大大小小的各個地方。
經過長久的演變，最后土地爺就從眾人敬仰的「社神」變成了只管理一方的小神。甚至在明清的小說裡，土地也還變成了任妖怪宰割的窩囊神仙。但是這個小小的神仙的出現，除了是紀念那些有功的人們，也寄託了古時候勞動人民想要驅邪、避災、祈福等等的美好願望。即便是現在許多地方的人們在出行時如果遇到土地廟，也會心懷感激的拜上一拜。