1919年“五四”運動爆發(fā)后，受新思想的影響，棄醫(yī)學文，開始致力于新文化、新思想的學習和研究。1923年齊魯大學畢業(yè)后，到濟南萬國儲蓄會任職員。此間，他廣泛結識進步人士，閱讀各種進步報刊，提高了對“只有馬克思主義才能救中國”的認識。1926年秋加入中國共產黨，從此他以滿腔熱情投入革命洪流，白天忙于儲蓄會的業(yè)務，晚上廣泛接觸各階層人士宣傳革命道理，多次參加張貼標語、散發(fā)傳單的活動，他的寓所成為黨員活動和隱蔽的處所。1927年下半年，他隨萬國儲蓄會遷至青島，并同青島的共產黨組織接上關系。這時，他被晉升為萬國儲蓄會總會計師，以此合法身份進行革命活動。萬國儲蓄會成為黨組織的活動場所，一些重要會議都在這里召開。他月薪百元大洋，但節(jié)衣縮食，生活簡樸，將大部收入資助了黨組織和困難的同志。

1929年春，中共山東省委組織部長王復元叛黨投敵，使?jié)�南、膠濟鐵路沿線和青島的黨組織遭受嚴重破壞，他險遭逮捕。脫險后，回到濟南；繼續(xù)從事黨的地下工作。

1931年夏，省委派他到益都開展工作。同年秋，建立中共益都特別支部，他任書記。還相繼建立了"互濟會”、“士兵聯(lián)合會”、“左翼作家聯(lián)盟”、“農民協(xié)會”等革命群眾組織。

“九一八”事變后，他在益都發(fā)動抗日請愿運動，起草了《告同胞書》，廣為散發(fā)、張貼；同時，領導東關小學400多名師生舉行罷課、游行，到國民黨縣政府請愿。他還組織省立十中、省立第四師范、師范講習所、商校的進步師生輪流上街集會演講，迫使國民黨益都縣黨部在天齊廟召開了“抗日大會”。

1931年冬，他多次深入農村，從事恢復和建立農村黨支部的工作。至次年春，益都縣建立起20多個支部，并在城區(qū)和鄭母一帶建立黨的區(qū)委，黨員發(fā)展到167人，各進步群眾組織發(fā)展到1000余人，受到省委表揚。同年5月；中共益都縣委建立，他任書記。 1932年春，他組織發(fā)動師范講習所學員，掀起反對國民黨益都縣黨部執(zhí)行委員；捕共隊長兼該所訓育主任趙若謙的學潮。同年夏，他領導部分黨團員和互濟會員，在國民黨縣黨部舉辦的鄉(xiāng)鎮(zhèn)長訓練班上，與縣黨部進行了面對面的斗爭。

1932年5月，中共山東省委派張鴻禮在中共益都縣委擴大會議上傳達省委指示，要縣委做好準備，在青紗帳起時舉行暴動，并指定段亦民任益都暴動總指揮。7月上旬，在縣委擴大會議上，張鴻禮宣布省委關于武裝暴動的決定，他在會上陳述了準備還不充分，特別是缺乏軍事指揮干部的實情。張批評他右傾，兩人發(fā)生爭執(zhí)。最后張宣布撤銷段縣委書記職務，他表示職務雖撤，但決不變心，繼續(xù)革命到底。8月18日，益都鄭母暴動失敗。

他被撤職后，與愛人湯佩琛到臨淄縣南仇村，以教學為掩護，繼續(xù)秘密開展黨的工作。省委對他十分關懷，派曹金言到南仇村找他時，夫婦已被逮捕，押往國民黨濟南法院看守所。

在獄中，面對國民黨的酷刑，他堅貞不屈，進行絕食斗爭。1933年8月18日，段亦民等9人英勇就義。臨刑前，他們手挽著手，高呼“打倒國民黨反動派”、“打倒日本帝國主義”、“中國共產黨萬歲”等口號。