1921年5月5日，孫中山在廣州就任中華民國大總統，設總統府於越秀山南麓（今廣州中山紀念堂所在地），第二次在廣州建立革命政權。
1922年6月16日，陳炯明部在廣州叛亂，將總統府夷為平地。孫中山脫險後登永豐艦指揮平叛。
孫中山逝世後，全國民眾在孫中山生前生活、工作和戰鬥過的地方紛紛建立紀念地，興建中山公園、中山路，營造樓堂館所，以紀念這位偉大的革命先行者。1925年4月13日，胡漢民發表《致海外同志書》，明確提出籌建中山紀念堂的計劃，號召人民“以偉大之建築，作永久之紀念”，踴躍募捐。
為了高標準、高品質建設廣州中山紀念堂，1926年1月，廣州國民政府成立“建築孫總理紀念堂委員會”，公開登報向海內外懸獎徵求紀念堂紀念碑圖案。經評定，呂彥直的設計圖獲首獎。
1928年3月22日，中山紀念堂工程動工興建。經過三年半的施工，1931年10月10日，中山紀念堂竣工。
1931年11月19日至1931年12月4日，中國國民黨（粵）第四次代表大會在中山紀念堂開幕。
1938年6月8日，中山紀念堂繼前一日遭日軍飛機轟炸後再次被襲，燃燒彈一處落在西臺階，另一處彈片穿透建築物後墻，所幸對建築物結構沒有造成破壞。
1945年9月16日,侵粵日軍在廣州中山紀念堂簽字投降。
1956年11月12日，廣東省、廣州市各界人民代表5000多人在廣州中山紀念堂舉行大會，隆重紀念孫中山誕辰90週年。
1958年1月，毛澤東和董必武在廣州中山紀念堂參觀並接見群眾。毛澤東稱讚中山紀念堂是中國人自己設計、自己施工建造的偉大建築物。
1965年7月16日，周恩來與陳毅在廣州中山紀念堂觀看大型革命舞蹈史詩《東方紅》。
1975年6月10日，中共廣東省委在中山紀念堂召開廣播大會傳達國家領導人鄧小平的重要指示。
1985年3月13日，中山紀念堂舉辦改革開放以來第一場商業性演出——羅文演唱會，原定六場的演出增至七場。
1998年，中山紀念堂進行建成以來最大規模的綜合整治維修。
2000年3月，廣州市市長林樹森題字“紀念堂之夜”，紀念堂的文化演出事業空前繁榮。
2001年7月10日，中山紀念堂晉身全國重點文物保護單位。
2006年10月12日，臺灣中國國民黨名譽主席連戰在參觀廣州中山紀念堂時題字：“蘭香逸，重薝舉，華表千載存高志”。
