早在西周時期，天帝就已經成為了一個被人格化了的神，如《詩經》中的《皇矣》，天帝親自站出來為文王出主意，告訴他如何打敗敵人。在春秋戰國之際，南方楚地的最高神是「東皇太一」，漢代依舊把「東皇太一」作為最高神進行祭祀。直到北宋，「東皇太一」都是皇家祭祀的最高神祇，但因為他只能是天子祭祀，所以民間對這一信仰並不普及。而到了宋代，隨著玉皇大帝信仰在社會上的廣泛傳播，玉皇就逐漸就取代了東皇而成為了至尊神。
最早出現「玉皇大帝」的名字是在南北朝時期陶弘景的《真靈位業圖》，其中提到了「玉皇道君」和「高上玉帝」，但這二位神仙地位都不高，一個排十一位，一個排十九位，都屬於原始天尊的下屬。
到了唐代，道教被奉為國教，封建統治者認為若把神仙權利系統和君權系統對應起來，就可以利用道教信仰更好地統治百姓，百姓們信仰一個最高神，就是對最高權利的崇拜與信服，而皇帝是人間最高權利的擁有者，是最高神在人間的代理人，也就成為人們信仰的對象。
隨著道教地位的提高，玉帝的聲名也呼聲日高，王維有詩曰「翠鳳翱文螭，羽帶朝玉帝。」李白有詩曰「入洞過天地，登真朝玉皇」。
中國傳統中盛行玉崇拜，玉既代表著一種品德，也代表者永久，玉帝也就是品德高尚而永久在位的帝王。到了宋代，宋真宗將玉帝與上古以來的天帝合二為一，將玉帝的地位提高到了最高，史書記載，有一天，宋真宗告訴他的大臣說，他夢見有神人來傳玉帝的命令，要求他們崇奉玉帝，於是他下詔，從此開始祭祀玉帝，並為玉帝造像。宋真宗還封玉帝為「玄穹高上玉皇大帝」。而同樣信仰道教的「道君皇帝」宋徽宗，也對玉皇大帝推崇備至，他改成玉帝為「太上開天執符御厲含真體道昊天玉皇上帝」。
經過皇家的宣揚，玉帝信仰無論是在上層社會，還是在民間，都得到了廣泛的傳播。上層往往將其作為一種權利來源的依據，《聊齋志異》說「天上有玉皇，地下有皇帝」，民間飽受疾苦，往往會將玉皇大帝看成是主持正義的最高神靈，在民間傳說中，玉皇大帝是一位英明、仁慈的帝王，他關心百姓疾苦，對老百姓有求必應，還會懲罰孽龍或妖怪，處罰那些不守天規的神仙等等。
但在道教的信徒心目中，道教的始祖，最高神依舊是老子。玉帝地位的提高，成為至尊神，並不是出於道教本身發展的結果，實際上這是在君權之下，「儒佛道」三教合流過程中，儒家的一種宗教建構，君權是至高無上的，天子的地位是天帝所授，因而在他們看來，最高的神自然就應該是天帝，即玉皇大帝，所以朱熹說：「老聃之流豈可僭居昊天之上哉」，他們認為玉皇大帝其地位應該在道祖老子之上。
隨著玉帝信仰的不斷完善，玉帝在天庭又如同人間帝王一樣，有了文武群臣，他們負責管理各種事物，這就越來越脫離了道教寡慾無為的宗旨，而靠近儒家的治國、平天下的思想了。
在「三教」合流的情況下，玉帝成為最高神，原來的神仙體系就要重新安排，顧頡剛在《古史辨自序》中回憶他小時候看到的神仙畫軸說：「這神軸上，很莊嚴的玉皇大帝坐在第一級，旁邊立著男的日神、女的月神。很慈祥的觀音菩薩是第二級，旁邊站著很活潑的善財和龍女。黑臉的孔聖人是第三級，旁邊很清俊的顏淵捧著書立著。第四級中的可多了：有穿樹葉衣服的盤古，有溫雅的文昌帝君，有紅臉的關老爺，有捧刀的周倉，有風流旖旎的八仙，又有很可厭的柳樹精在八仙中混著。
第五級為搖鵝毛扇子的諸葛亮，捧元寶的五路財神。第六級為執令旗的姜太公，弄刀使槍的尉遲敬德和秦叔寶，伴著黑虎的趙玄壇。第七級為歪了頭的申公豹，踏著風火輪的哪吒太子，捧著蟾蜍盤笑嘻嘻的和合，嗔目發怒的四金剛。第八級中是神職最小的了：有老憊的土地公公，有呆坐在井欄上的井泉童子，有替人管家務的灶君」。這正是民間信仰中，玉帝成為老大之後，三教的重新洗牌形成的信仰符號。
在臺灣，玉皇大帝也是重要的一個信仰，劉還月《臺灣民俗志》：「臺灣不少廟中，都有玉皇大帝神像，相傳是宋真宗塑造的，並視為本家的祖先，救封為玉皇。不過一般人，並不崇拜玉皇大帝的神像，只在客廳中懸一隻天公爐祭拜，可見他在一般人的心目中，仍是自然之神。每年正月初九，是臺灣民眾玉皇大帝的生日，稱為天公生，玉皇大帝是諸神之尊，管轄諸神及人間生死、保育及賞罰，祭禮最為隆重」。我們常說「老天爺」如何如何，實際上也是玉皇這一信仰的潛在影響。