光緒十一年（1885年）入廣東水陸師學(xué)堂第一期讀水師班， 畢業(yè)后赴英國(guó)入海軍學(xué)校攻讀�；貒�(guó)后，在北洋海軍服役， 曾參加中日甲午戰(zhàn)爭(zhēng)。

光緒二十二年五月（1906年），清廷派他與程璧光、林國(guó)祥等5人往英國(guó)訂造“海天”、“海圻”兩艘巡洋艦，并兼監(jiān)制。3年后率艦回國(guó)。

光緒三十三年（1917年），被任為新設(shè)立的海軍處副使（未委正職）。

宣統(tǒng)元年（1909年），任籌建海軍事務(wù)處參贊。次年年底， 事務(wù)處改設(shè)海軍部，被任為副大臣。清帝退位前，任海軍大臣。

1912年譚學(xué)衡任南京民國(guó)臨時(shí)政府海軍部正首領(lǐng)，幾天后委任了海軍總長(zhǎng)，譚即解職。后南下廣東， 曾回鄉(xiāng)倡修圍堤水利及疏浚天沙河舊河。

1914年7月，廣東大水成災(zāi)。各界公舉代表聯(lián)同旅京人士， 呈請(qǐng)民國(guó)政府設(shè)立機(jī)構(gòu)，疏治粵河。11月13日， 譚被任為廣東治河事宜處督辦，年12月,譚學(xué)衡抵達(dá)廣州,設(shè)立了廣東治河處。 先后聘上海浦江浚河局總工程師海德生、 工程少�？戮S廉（兩人均瑞典籍）任治河處總工程師，于次年6月開(kāi)始， 率領(lǐng)工程技術(shù)人員赴西江河道進(jìn)行勘測(cè)，并提出《西江防潦條陳》意見(jiàn)書(shū)。

1915年7月，東、西、北江水同時(shí)暴漲，水患重于1914年， 史稱(chēng)乙卯大水，測(cè)量工作被迫停頓。新會(huì)天河圍堤崩決，水患嚴(yán)重。 譚回鄉(xiāng)視察，協(xié)助制訂搶修加固圍堤方案，并繼續(xù)進(jìn)行開(kāi)挖天沙新河。 后又在天沙河出口處新建3孔14.5米寬的耙沖水閘， 徹底解決天河圍的防洪和排澇。

1916年春，西江測(cè)量完竣，之后繼續(xù)勘察東、 北兩江和珠江。譚在任內(nèi)，在勘查河道的同時(shí)，還擬訂各江河道、港口、 圍題的整治、改良計(jì)劃，為日后治理廣東河道打下基礎(chǔ)。

1919年7月，譚學(xué)衡病逝于北街醫(yī)院，終年48歲。