梁君大1916年進長沙幼兒小學。次年隨父北上住梁漱溟家，轉(zhuǎn)入北京孔德小學。1919年返湘，失學一年后入長沙楚怡小學。1924年考取明德中學，翌年底輟學回家。1927年初，其父避兵離湘赴上海，梁隨同前往，爾后于3月東渡日本留學。

抗日戰(zhàn)爭全面爆發(fā)后，梁君大成立學生抗日宣傳隊深入石灣、吳集、沙泉、南岳等地宣傳抗日救亡，同時動員一批進步學生由胡敬夫率領(lǐng)去延安參軍。1938年5月與妻子加入中國共產(chǎn)黨，擔任新建南岳支部宣傳委員。是年底參加中共南方局主辦的西南精干學習班。1939年初結(jié)業(yè)仍回南岳，奉命擴建衡山縣委，后因特務(wù)跟蹤甚緊乃轉(zhuǎn)往邵陽。是年8月按中共湖南省委指示接管邵陽民眾書店并開辦五五書店，旨在灌輸進步思想，喚起民眾共同抗日。1941年后，中共黨組織分批轉(zhuǎn)往重慶或延安，梁遵照組織安排留守湖南，隱蔽在東安、江永、宜章等地的礦山中開展地下工作。1944年因身陷深山與組織失去聯(lián)系。

1946年春返長沙尋找黨組織，其間曾與好友向愚合作，翻印了毛澤東論著及劉少奇《論黨》等近萬冊，全部無償交中共長沙市工委分發(fā)。1948年底與省工委直屬機關(guān)黨委取得聯(lián)系，并于次年2月經(jīng)組織同意恢復(fù)黨籍，繼續(xù)負責地下印刷工作。新中國成立前夕奉命前往臨武、藍山、嘉禾等地進行策反，并組織各工礦單位人員成立新民主主義工礦協(xié)會，接受中共黨組織的領(lǐng)導(dǎo)。

新中國成立后就職于省委統(tǒng)戰(zhàn)部。1950年6月兼任湖南省人民政府參事室參事，并擔負長沙市軍管會交際處主管任務(wù)。1951年調(diào)省宗教事務(wù)處任處長。1955年調(diào)任省工農(nóng)干部教育處處長兼掃盲辦公室主任。次年調(diào)任省文藝干校校長。1958年調(diào)省博物館任副館長，旋由省委宣傳部借調(diào)主持“社會主義經(jīng)濟建設(shè)十年成就展覽會”工作。1959年被劃為右派，1962年予以改正，仍回博物館任副館長。1966年再次受到?jīng)_擊，1980年得以平反，恢復(fù)名譽，享受廳局級待遇。