1926年7月，黃嘉谷棄學從軍北伐，任國民革命軍第五軍政治部指導員，參加北伐戰(zhàn)爭。隨部隊從廣東出發(fā)，11月抵達九江。1927年，“四一二”反革命政變突發(fā)，蔣介石在上海發(fā)動“清黨”大屠殺，在白色恐怖下，黃嘉谷他轉(zhuǎn)入農(nóng)村活動。不久，到葉挺領(lǐng)導的國民革命軍第二方面軍第十一軍二十四師參加 8月 1日南昌起義，轉(zhuǎn)戰(zhàn)到廣東潮汕一帶。同年 12月參加廣州起義。失敗后轉(zhuǎn)移到香港，與參加起義后轉(zhuǎn)移到香港的桂籍共產(chǎn)黨員朱錫昂、俞作豫等取得密切聯(lián)系。

1928年1月，黃嘉谷隨朱錫昂、俞作豫等10多人回桂到北流開辟工作，建立中共北流縣委會，任委員。3月，以擔任嶺垌小學代課教師作掩護，在縣南部開辟工作。國民黨縣長黎植松發(fā)覺，親率縣警圍捕，在群眾掩護下，幸免于難。于是轉(zhuǎn)入地下活動，剪光頭發(fā)，頭戴斗笠，穿粗布衣服，常出現(xiàn)在貧苦農(nóng)民中間，秘密組織勞農(nóng)會，發(fā)動群眾進行抵制苛捐雜稅、高利貸和拉壯了當兵的斗爭。曾親手創(chuàng)建中共白米支部，兼任支部書記。平時不顧交通阻塞和個人安危，總是依期從70公里外山區(qū)步行趕到縣城參加兩周一次的縣委碰頭會，策劃全縣工作；與縣委書記俞作豫等籌集枝支200余枝，組織農(nóng)民自衛(wèi)軍。

1929年6月，俞作柏、李明瑞回桂主政，黃嘉谷被派任北流縣代理教育局長職。接著他推薦梁章云、李偉烈、張善鳴、李春林、馮郅郁等共產(chǎn)黨員分別擔任北流一中、平政二中和縣高小以及縣督學等職，自己兼任縣師范講習所所長，使黨組織在教育陣地中起到重大作用。此時，他任中共北流縣委書記。10月間，俞、李反蔣失敗，不久他被解除教育局代理局長職務，并被通緝。他又一次轉(zhuǎn)入地下活動于北流、郁林、陸川等地農(nóng)村。

1930年10月間，中共郁林五屬黨組織在李立三“左”傾冒險主義的影響下，決定搞郁林五屬暴動，成立郁林五屬行動委員會，并確定在郁林竹尾村（中共郁林五屬行委機關(guān)駐地）召開各縣地下黨負責人會議，部署暴動。11月22日，竹尾村機關(guān)已被敵破壞，28日，黃嘉谷和郁林縣委書記王鼓仁因不明情況，從北流南部出發(fā)赴會，在進入竹尾村時被捕。敵人用盡軟硬兩手勸降迫降，黃嘉谷鐵骨掙錦，大義凜然，絕不為之所動。12月22日（冬至節(jié)），同王鼓仁等一起在郁林慘遭殺害。在刑場上，黃嘉谷激昂高呼：“共產(chǎn)黨萬歲！”從容就義，時年28歲。