1923年（民國12年），他奉奉系領(lǐng)袖張作霖的指示到莫斯科同蘇聯(lián)進行交涉。翌年9月，“中華民國東三省自治政府與蘇維埃社會主義聯(lián)邦政府之協(xié)定”（“奉俄協(xié)定”）簽訂。1924年就任中東鐵路公司理事。1927年（民國16年），他任中東鐵路督辦。此后，因同蘇聯(lián)在中東鐵路發(fā)生糾紛，張學良的東北軍敗退，呂喪失其職位。

1931年（民國20年）九一八事變后，呂榮寰受土肥原賢二勸誘，參加滿洲國建國工作。翌年，他就任哈爾濱市市政籌備所所長，1932年8月任偽哈爾濱市長。

滿洲國成立后的1933年（大同2年）7月，他任哈爾濱特別市市長兼東省特別區(qū)公署長官。翌年1月，東省特別區(qū)公署改組為北滿特別區(qū)公署，他任該公署行政長官。翌年11月，他兼任浜江省省長（12月正式就任）。

1935年（康德2年）5月，他升任民政部大臣兼國道會議副議長。翌月，他兼任帝室大典委員會委員。翌年，他兼任恩賞會議議定官。1937年（康德4年）5月，他任實業(yè)部大臣。7月，部門改組，他任產(chǎn)業(yè)部大臣。1940年（康德7年）5月，他改任民生部大臣。翌年1月，他任滿洲國駐南京國民政府（汪精衛(wèi)政權(quán)）的駐華全權(quán)大使，到南京赴任。1944年（康德11年），他回到新京成為待命大使。1945年4月他辭職。

1945年8月20日，偽滿洲國宣布解散，同日，張景惠在長春成立東北地方暫時治安維持委員會，他任副委員長，蘇聯(lián)紅軍進駐長春后，強行將該會解散。31日被蘇軍逮捕，押往蘇聯(lián)。

1946年（民國35年）他在西伯利亞病逝。享年57歲。

1929年3月1日，張學良命令中東路督辦呂榮寰向中東路蘇方副理事長齊爾金提出收回中方在中東路應(yīng)得權(quán)益的一系列要求，其主要部分為蘇方所拒絕。

東省特區(qū)教育廳長張國忱、東北政務(wù)委員會機要秘書鄒尚友想擠掉中東鐵路督辦呂榮寰，由張國忱取而代之。張國忱等按照張學良的授意，一步一步，從蘇聯(lián)人手中“強制接收”了哈爾濱文物研究會、哈爾濱氣象臺、哈爾濱自動電話局、驅(qū)逐教育廳蘇聯(lián)科長菲利博維赤出境，呂榮寰“在教育廳接收了文物研究會后，他業(yè)已開始準備他的接收計劃�！币蚴玛P(guān)重大，他正在遲疑間，即聽到與張國忱等的一再采取行動比較，“鐵路當局懦弱無能”、將被撤換的說法，“他感覺到與其被撤而去，倒不如搞一下政治冒險，……他就在這種邏輯支配下，毅然把強制接收東路提案送到沈陽。”呂榮寰和張景惠由沈回哈，呂榮寰一下車就興高采烈，因為他的強制接收東路提案已完全通過，且決定由他全權(quán)執(zhí)行。呂榮寰回哈后，即閉門部署，除與張景惠經(jīng)常碰頭外，他沒有與別人交換過意見。

時任東北軍第4師師長的劉翼飛回憶：“1929年夏秋之間張學良在北戴河避暑時，哈爾濱特區(qū)長官張景惠、中東鐵路督辦呂榮寰、教育廳長張國忱等紛紛電張，要求進兵吉黑，強制接收中東鐵路，……并且說蘇聯(lián)一定不能抵抗云云�！薄皬垖W良乃找我說：u2018張輔帥（張作相）對于這事還猶豫不決，你可偕同張廷樞明日去吉林見輔帥，告以根據(jù)各方面報告，蘇聯(lián)決不能打仗，以堅其信心。”因劉表示懷疑，張未讓他去吉林�！昂髞砺犝f呂榮寰曾攜帶所謂情報和接收中東路的計劃到沈陽和張學良商談，……慫恿張學良強行收回中東鐵路，以致釀成戰(zhàn)事�！�

可見中東路事件，張學良及張景惠、呂榮寰是主要決策者，張景惠、呂榮寰、張國忱、鄒尚友等人是促使張學良下決心的幾個主要人物。