父李詩孟，母游氏。天興二年（1233）出家為道，蒙古乃馬真皇后稱制元年 (1242) 西游到陜西，拜全真道祖庭重陽宮住持通玄廣德洞真真人于志道 ( 善慶 ) 為師。于志道以其為道門賢才而器重，傾自己所學(xué)傳授李道謙。四年后李道謙隨于志道在陜甘弘揚全真道。蒙古海迷失皇后稱制二年 (1250) 于志道羽化，李道謙不負師教，依舊十分勤勉地弘道。翌年，全真道掌門真常真人李志常以李道謙代理重陽宮提點。蒙古蒙哥汗二年 (1252) 春，李志常奉憲宗之命赴重陽宮設(shè)醮祭祀并規(guī)劃營建道觀諸事，委派李道謙負責(zé)具體操辦，李道謙辦理得周全妥當，深為道眾佩服。蒙古蒙哥汗八年 (1258) ，任京兆路道錄，蒙古至元二年 (1265) 升任京兆道門提點，至元九年 (1272) 赴京師任諸路道教提舉，不久辭職返回陜西。至元十四年 (1277) 任陜西五路西蜀四川道教提點兼領(lǐng)重陽宮事。至元二十五年 (1288) 永昌王遣使以師禮拜謁。至元三十一年 (1294) 元成宗即位，封李道謙為玄明文靖天樂真人，賜號崇玄大師。元貞二年(1296) 六月羽化。

李道謙工書法，密國公（完顏）璹（一一七二―一二三二）所撰金重陽王真人碑，為其所書。撰有《祖庭內(nèi)傳》 ( 即《終南山祖庭仙真內(nèi)傳》) 三卷，《七真人年譜》( 即《七真年譜》 ) 一卷，《終南山記》三十卷，《仙源錄》六卷 ( 即《甘水仙源錄》，后收入《道藏》為十卷 ) ，《簡溪筆錄》十卷，詩文五卷。