1899年入學(xué)啟蒙，1908年畢業(yè)于鄉(xiāng)辦舊制京山小學(xué)，畢業(yè)后在本鄉(xiāng)任教。辛亥革命時(shí)期，其對(duì)孫中山倡導(dǎo)的革命理念崇拜有加，亦想加入革命陣營(yíng)，于是兩次投考陸軍小學(xué)。

一次是到長(zhǎng)沙，一次是遠(yuǎn)赴桂林，但都因錯(cuò)過(guò)考試日期而未能成功。1912年，其考入衡陽(yáng)實(shí)科中學(xué)，入學(xué)僅兩月，因?qū)W資不濟(jì)而被迫輟學(xué)。

1914年，因家中經(jīng)濟(jì)拮據(jù)，生活困難，謝伯遜謝于萬(wàn)般無(wú)奈中只得背井離鄉(xiāng)，出外謀生。先在川、貴、黔等地行商，業(yè)不能成，反遭搶劫，血本無(wú)歸。后于1917年，經(jīng)人介紹到湖南芷江縣署任科員、科長(zhǎng)等職。1920年，因縣知事卸任而被辭退。

1921年，謝伯遜前往廣州謀生，時(shí)值廣州革命風(fēng)氣甚濃，對(duì)其思想影響很大。次年，即赴韶關(guān)參加革命黨人組織的游擊隊(duì)武裝，任司令部書記官。1924年1月，孫中山在廣州召開國(guó)民黨“一大”宣布改組國(guó)民黨，提出了“聯(lián)俄聯(lián)共”的主張，謝伯遜極力擁護(hù)，于是年冬加入國(guó)民黨，并在翌年出任大本營(yíng)建國(guó)湘軍總司令部最高黨團(tuán)文書干事。1926年建國(guó)湘軍改編為國(guó)民革命軍第二軍，其任特別黨部書記長(zhǎng)，第二年隨軍開始北伐。寧漢分裂時(shí)期派赴軍事委員會(huì)經(jīng)理處被服廠任總務(wù)課長(zhǎng)。

1927年冬，蔣介石部隊(duì)攻入武漢，謝伯遜被迫離職，于1929年回到長(zhǎng)沙。是年冬，受湖南漕運(yùn)局委派赴湘西沅、芷一帶調(diào)查鹽務(wù)，并創(chuàng)設(shè)芷江漕運(yùn)分局，擔(dān)任分局局長(zhǎng)。1931后擔(dān)任揚(yáng)州淮南鹽運(yùn)副使署第二課課長(zhǎng)、江西九江鎢礦局秘書等職。1934年赴山東，經(jīng)山東反省院院長(zhǎng)介紹擔(dān)任該院總務(wù)課助理員。該院是收容被捕判刑一至二年的中共黨員場(chǎng)所，其間對(duì)中共黨員灌輸國(guó)民黨的思想理論。1937年抗日戰(zhàn)爭(zhēng)全面爆發(fā)后，其與院長(zhǎng)等開會(huì)商議，決定釋放收容的全部共產(chǎn)黨員，并下文通知各縣司法機(jī)關(guān)，將所有關(guān)押的共產(chǎn)黨員送至該院，亦全部給予了釋放。山東省收容院后因日寇攻陷濟(jì)南隨即解散。

1939年，謝伯遜受友人之邀赴桂林，擔(dān)任財(cái)政部桂林造幣廠秘書處課員。1942年回湖南，任靖縣采金廠總務(wù)、新化縣稅務(wù)辦事處職員等職。1947年回鄉(xiāng)閑居，直至解放。

1950年6月，謝伯遜任湖南省人民政府參事室參事，翌年受命擔(dān)任衡陽(yáng)生產(chǎn)教養(yǎng)院院長(zhǎng)，1953年因病辭職。