李崇矩年幼時(shí)孤貧，有善行，被鄉(xiāng)里人所推許佩服。后漢高祖劉知遠(yuǎn)在晉陽起兵，駐扎在上黨，史弘肇當(dāng)時(shí)任先鋒都校，聽說李崇矩的名聲，召來擔(dān)任親吏。

乾祐初年（948年），史弘肇總領(lǐng)禁兵兼任京城巡檢，常常殘殺軍民，身邊的部屬害怕，慢慢都離開了他，只有李崇矩侍奉他越發(fā)嚴(yán)謹(jǐn)。乾祐三年（950年），史弘肇被誅殺時(shí)，李崇矩得以身免。

后周太祖郭威與史弘肇向來交情很好。廣順元年（951年），郭威即皇帝位，建立后周。郭威繼位后，訪求史弘肇的親屬故交，得到李崇矩。對(duì)他說：“我與史公得到后漢的厚恩，同心盡力，共同輔助王室，被奸邪構(gòu)陷，史公最終遭到大禍，我也僅僅得以身免，你是史氏家的故吏，請(qǐng)你替我尋找他家的近屬，我要憮恤他們�！崩畛缇赝扑]史弘肇的舅舅福（名福，姓氏不詳）。李崇矩歷來主持史弘肇家的家事，把財(cái)產(chǎn)都收集攏來交給福，郭威稱贊他，把他收用在后周世宗柴榮（郭威皇后的侄子）軍中。

顯德初年（954年），李崇矩補(bǔ)任供奉官。跟從柴榮征伐高平，因戰(zhàn)功轉(zhuǎn)任供備庫副使，又改任作坊使。

顯德六年（959年），柴榮去世，后周恭帝柴宗訓(xùn)即位，命李崇矩向南唐告哀。李崇矩回來后，被任命為判四方館事。

建隆元年（960年），后周殿前都檢點(diǎn)趙匡胤，發(fā)動(dòng)陳橋兵變，篡奪后周天下，建立北宋王朝，是為宋太祖。

建隆元年（960年）四月，昭義軍節(jié)度使李筠叛亂，宋太祖命李崇矩率領(lǐng)龍捷、驍武左右射禁軍數(shù)千人駐屯河陽，率領(lǐng)所部兵馬進(jìn)攻大會(huì)砦，將其攻克下來，斬殺敵兵五百人。改任澤、潞南面行營前軍都監(jiān)，與石守信、高懷德、羅彥瑰在碾子谷共同大敗李筠的部隊(duì)。澤、潞平定時(shí)，派李崇矩先入城，收管圖冊(cè)，管理府庫。李崇矩于是上言說：“上黨是我的故鄉(xiāng)。我的父親還是用槁草埋葬，希望能讓我護(hù)送棺材回到京師�！彼翁�祖答應(yīng)他的要求，賞賜很多。部隊(duì)回到京城，正遇判三司張美出任地方官，朝廷任命李崇矩為右監(jiān)門衛(wèi)大將軍，充任三司使，跟從宋太祖征討李重進(jìn)，回朝后任宣徽北院使，仍然判理三司。

乾德二年（964年），李崇矩代替趙普擔(dān)任樞密使。

乾德五年（967年）三月十七日，加官檢校太傅。當(dāng)時(shí)劍南剛剛平定，禁軍軍校呂翰聚眾作亂，軍隊(duì)里亡命之徒很多。在他的營中，有人上言請(qǐng)求誅殺他們的妻子。宋太祖猶疑不決，告訴李崇矩。李崇矩說：“叛亡之徒固然應(yīng)當(dāng)誅殺，但按名冊(cè)應(yīng)當(dāng)誅殺的有幾萬人�！彼翁�祖說：“我惟恐有人是被他驅(qū)使而作亂，并非出自本意�！庇谑窍铝钊�部釋放。呂翰的軍隊(duì)士兵聽說后，慢慢回家了。不久，呂翰敗滅。

開寶元年（968年），李崇矩跟從宋太祖征伐北漢。軍隊(duì)班師回朝途中，任命李崇矩為后殿，駐扎在常山。恰逢李崇矩染上疾病，宋太祖派太醫(yī)診治，命他乘涼車回京城。李崇矩叩頭說：“涼車是天子的座車，讓我乘坐此車是加速我的死亡啊！”堅(jiān)決謝絕得免。

當(dāng)時(shí)趙普任宰相，李崇矩把女兒嫁給趙普的兒子趙承宗，兩家交情友善，宋太祖聽說后不高興。有個(gè)叫鄭伸的人，在李崇矩門下當(dāng)門客僅十年，性情險(xiǎn)詐沒有德行，李崇矩對(duì)他慢慢疏遠(yuǎn)，鄭伸懷恨在心，于是上書告發(fā)李崇矩的陰謀。李崇矩不能自己辯明。宋太祖不予查問，讓他出京任鎮(zhèn)國軍節(jié)度，賜鄭伸同進(jìn)士出身，任命為酸棗主簿；仍然賜給李崇矩器幣、裘衣、銀帶。

開寶六年（973年），李崇矩入朝任左衛(wèi)大將軍。

開寶九年（976年）十月，宋太祖去世，其弟晉王趙光義即位，是為宋太宗。

太平興國二年（977年）夏天，黃河河防常常決口，宋太宗詔令李崇矩乘驛馬從陜到滄、棣，巡視河堤。這年秋天，出京任邕、貴、潯、賓、橫、欽六州都巡檢使。不久，改任瓊、崖、儋、萬四州都巡檢使，部下軍士都害怕他，李崇矩拿出所有的器皿金帛，一共值錢數(shù)百萬，全部分給軍士們，他們才被感動(dòng)。當(dāng)時(shí)黎賊擾亂，李崇矩到他們的洞穴一一加以撫慰，把自己的財(cái)物贈(zèng)送給酋長，黎人都感德歸附。換任回朝，授任為右千牛衛(wèi)上將軍。

雍熙三年（986年），宋太宗命李崇矩代替宋偓，擔(dān)任判右金吾街仗兼任六軍司事。

端拱元年（988年），李崇矩去世，終年六十五歲。朝廷追贈(zèng)太尉，贈(zèng)謚號(hào)為元靖。

李崇矩稟性忠厚寡言，非常重視兌現(xiàn)諾言。曾經(jīng)在史弘肇手下做事，自己富貴后，看見史弘肇的子孫，一定隆厚地禮遇他們，救濟(jì)他們的困乏。在嶺海四五年，絲毫不以炎涼荒瘠為憂。以往渡海的人常常停船靠岸等待有利的方向，有的等到十天，有的等到一個(gè)月，李崇矩越海來往都是當(dāng)天渡過，從不滯留，跟隨的士卒僮仆都安然無恙。信仰佛教，供養(yǎng)僧人達(dá)到七十萬人，造像建寺很多。又喜歡黃白術(shù)，從遠(yuǎn)方迎接其人，在家里建館以師禮事之，即使知道其中假詐，還是把他當(dāng)作神仙，終身無悔恨。

《宋史》：“幼孤貧，有至行，鄉(xiāng)里推服�！�

《宋史》：“李崇矩秉純厚之德，感史弘肇之恩，保其叛亡之孥，然交鄭伸不知其傾險(xiǎn)，坐謫炎海，固無先見之明矣”

《宋史·卷二百五十七·列傳第十六》

李繼昌，官至左神武軍大將軍。

李氏，嫁宰相趙普之子趙承宗。

李遵勖，李繼昌之子，娶萬壽長公主，官至昭德軍留后、駙馬都尉。

李文晟，李繼昌之子，官至殿中丞。

李文旦，官至侍禁。