1928年4月，為紀念孫中山，由國民黨元老胡漢民提出動議，在越秀山下興建公園，以偉大的建築，作永久的紀念。動議得到各界積極響應，議決在原總統府舊址興建中山紀念堂。
這塊地在清代曾做撫標箭道，後改做督練公所。民國桂系統治廣州時期，曾做督軍署。1921年，孫中山在廣州就任非常大總統，總統府設於此。1922年發生「六一六事變」，部分粵軍在廣州發動兵變，反對孫中山，與支持孫中山的海軍發生激戰，總統府被毀。1925年孫中山在北京逝世。廣州的國民黨中央黨部曾決定在西瓜園（今人民中路）興建中山紀念堂。但最後決定把紀念堂改建原總統府遺址上，更有紀念意義。
建築孫中山先生紀念堂籌備委員會把收到的各種設計草案，都放到國民政府內展覽，由評判員分別評判，並請畫家溫其球、姚禮修、高劍父、高奇鋒、馮鋼伯、陳丘山，建築家林逸民、陳耀祖等八人為評判員。最後，公布以呂彥直設計的方案獲得首選。呂彥直是天津人，楊宗錫的康奈爾大學同學，也是越秀山上中山紀念碑和南京中山陵的設計者。
紀念堂工程，以陶馥記取價九十二萬八千八百二十五兩；紀念碑工程，以宏益公司取價一十三萬八千六百兩，全部鋼架，以慎昌洋行取價一十八萬五千兩為當選。總投資按廣東省財政廳公布的數字為3365970元，部分由熱心的廣州市民和海外華僑集資，部分由廣東省政府撥給。
1929年1月15日奠基，但中途遇到經費不足及地質複雜等問題，進展一度受阻，直到1931年才基本建成。可惜呂彥直沒能看到他的偉大作品落成，中山紀念堂奠基時，他已身患重病，工程還沒未完成，便於1929年3月18日在上海病逝。
紀念堂整體建築包括門樓、紀念堂及東西附樓，坐北朝南，佔地共6萬平方米。建築面積1.2萬平方米（含東西兩座附樓、後臺休息室及地下化妝室），鋼架和鋼筋混凝土結構。前後左右四個重簷歇山頂拱託著中央的八角形亭式頂蓋。從堂體地面至八角亭寶頂最高點為57米。紅柱黃牆，襯以寶藍色琉璃瓦蓋，莊嚴瑰麗。牆裙為遼寧青石，用香港花崗巖做須彌座臺基和階級。廊柱為紅色水磨石米柱和紅色隔扇。在正面重簷歇山頂的中央，高懸一塊藍底紅邊的漆金大匾，上有孫中山手書「天下為公」四個大字，雄渾有力。
上圖：紀念堂開幕當天的舞獅場面
下圖：紀念堂落成典禮的牌樓
堂內觀眾大廳，分上下兩層，共4729個座位，頂呈圓蓋形，是用玻璃鑲嵌的一個大吊頂，廳內無一柱，不會阻礙視線，而且基本上沒有回聲，堪稱建築藝術中的傑作。堂內四周飾以彩繪圖案，丹彩明麗，傳達著一種東方民族的風採流韻。舞臺後牆鑲嵌著孫中山浮雕頭像和《總理遺囑》刻石。
孫中山生前好友、日本人梅屋莊吉在1932年出錢鑄造的四尊孫中山像，分別贈給南京中央軍官學校、廣州黃埔軍校舊址、中山大學和澳門國父紀念館。1954年，廣州市政府擬把中山大學那尊孫中山塑像移到中山紀念堂安放。
但因為該像太小，與環境不甚協調，1956年市政府決定在11月12日孫中山誕辰九十周年時，把這尊像又從中山紀念堂移到中山大學康樂園新校園內。另外由剛成立的廣州人民美術社雕塑組創作新的孫中山像（作者尹積昌、詹行憲、廖加復）。1958年新的孫中山像完成創作，安放在堂前的基座上。
這是中國第一尊室外以混凝土為材料的孫中山塑像，高5.3米、重約8.7噸，外表噴銅。塑像與越秀山上的孫中山紀念碑在同一軸線上，上下輝映。塑像曾獲1987年全國首屆城市雕塑優秀獎。1999年9月，一尊用精銅鑄造的孫中山像，安放在紀念堂外，原混凝土像則遷至華南理工大學。
中山紀念堂落成開幕當天
上圖：中山紀念堂的木棉王
下圖：從越秀山上俯瞰紀念堂
1962年，中山紀念堂被列為省級文物保護單位。1990年經建設部、國家文物局、中國建築學會核定公布為全國近代優秀建築單位。從1981年開始，中山紀念堂有限度地開放草坪與迴廊給市民參觀遊覽。1996年由廣州市旅遊局主辦，市民投票評選的「廣州十大旅遊美景」之中，「辛亥之光」一景，包含了兩個景點，一個是黃花崗公園，另一個就是中山紀念堂。2001年6月，中山紀念堂被國務院公布為全國重點文物保護單位。
讀本號文章，品廣州往事：