張儉出身官宦世家，于 遼圣宗 統(tǒng)和十四年（996年），考中進(jìn)士，名列第一，歷任順州從事、署棘寺丞、范陽令，后調(diào)任云州幕官。生性正直誠謹(jǐn)，不喜虛夸矯飾。深得上官、同僚的敬重。遼圣宗到云中一帶游獵，按照契丹的舊例，皇上經(jīng)過之處，當(dāng)?shù)氐牡胤介L官應(yīng)該有所獻(xiàn)貢。當(dāng)?shù)氐墓?jié)度使奏稱：“臣轄區(qū)內(nèi)沒有什么特產(chǎn)，只有幕僚張儉，為一代之寶物，希望能將他獻(xiàn)上�！痹诖酥�前，遼圣宗曾經(jīng)夢見有四個人侍奉在他的身旁，賜給他們食物每人兩口，待到聽說了張儉之名“儉”字，遼圣宗方才恍然大悟，明白夢兆應(yīng)在了張儉的身上。于是，遼圣宗馬上召見張儉，張儉儀容舉止質(zhì)樸無華；遼圣宗很是高興，向他問及謀身治世之事，張儉便當(dāng)面口奏三十多件事，都很合遼圣宗的心意。張儉從此特別受遼圣宗青睞，歷任監(jiān)察御史、司門外郎清高顯貴之職，號稱明智干練。

統(tǒng)和二十七年（1009年），丁父憂，去職歸鄉(xiāng)，服喪三年，復(fù)出，任禮部郎中。知制誥。直樞密院。加賜金紫。柱國。特封開國男。食賦三百室。

統(tǒng)和二十九年（1011年）十二月，已經(jīng)擔(dān)任太常少卿的張儉作為副使，隨正使、長寧軍節(jié)度使耶律漢寧出使北宋，開泰元年（1012年），遷政事舍人，知樞密直學(xué)士。開泰二年（1013年），正授樞密直學(xué)士同修國史：開泰三年（1014年），加尚書工部侍郎、知制誥；開泰四年（1015年）春，遷樞密副使；夏六月，授宣政殿學(xué)士、守刑部尚書、參知政事、同知樞密院事；冬十月，授樞密使，加崇祿大夫尚書左仆射兼門下侍郎平章事兼修國史，特賜翊圣佐理功臣；開泰五年（1016年）秋，加開府儀同三司，守司空，加賜竭節(jié)功臣；開泰七年（1017年）冬，加政事令。

太平元年（1021年），張儉以左丞相之秩。長中書令，進(jìn)封魯國公。增加邑戶。改賜推忠匡時守節(jié)功臣。

太平五年（1025年）春，出京任 武定軍節(jié)度使，賜佐時全節(jié)功臣，夏六月。改任 彰國軍節(jié)度使。冬十二月又改任 大同軍節(jié)度使。

太平六年（1026年）春三月，入京任南院樞密使、左丞相、兼政事令、監(jiān)修國史。遼圣宗信任倚重于他，參知政事 吳叔達(dá)與張儉不合，遼圣宗發(fā)怒，出貶吳叔達(dá)為康州刺史。

太平十一年（1031年）三月，遼圣宗病重，六月初三駕崩于大福河（今內(nèi)蒙古呼虎爾河）行宮，張儉接受遺詔輔立太子耶律宗真，這便是遼興宗。遼興宗即位之后，依舊很依賴倚重張儉。

景福元年（1031年）夏六月，遼興宗冊命張儉為太傅。加賜同德功臣。

重熙元年（1032年）冬十一月，張儉進(jìn)位為太師。增實賦五百室。

重熙四年（1035年）春，張儉因年老致仕，遼興宗授其洛京留守、尚父、行河南尹，進(jìn)封秦國公，增食賦七千室，改賜貞亮私靖耆德功臣，守太師兼政事令如故。

重熙五年（1036年），遼興宗親臨禮部貢院，親自考試進(jìn)士，這些事情都是張儉一手打點。張儉進(jìn)見時，遼興宗不直呼其名，并且賜詩加以褒獎稱美。張儉有五個弟弟，遼興宗想一并賜給他們進(jìn)士及第出身，張儉堅決推辭。

重熙六年（1037年）冬，遼興宗將張儉接到京城，向他詢問治國政務(wù)，并封張儉為韓王。

遼興宗即位之后，西邊的西夏和南邊的北宋爆發(fā)了戰(zhàn)爭，北宋連戰(zhàn)連敗，遼興宗決定趁機(jī)圖謀北宋的 關(guān)南十縣之地，準(zhǔn)備親征宋朝。在正式?jīng)Q定出兵之前，遼興宗到張儉家中征求他的意見，負(fù)責(zé)皇帝飲食的官吏先前往張儉家準(zhǔn)備膳食，張儉推辭，讓他們走了；他自己進(jìn)獻(xiàn)葵羹湯飯，遼興宗吃得很美。然后便問他以對策，張儉極言陳說戰(zhàn)事利害，并且說：“只需派一名使者去宋朝責(zé)問就行了，何必勞駕皇上遠(yuǎn)征？”遼興宗聽了很高興，就作罷了。又親臨其家中賜宴，把自己用過的器物珍玩都送給了張儉。

重熙十一年（1042年）正月，遼興宗一面在邊界重兵壓境，一面派遺南院 宣徽使蕭英和 翰林學(xué)士劉六符與 北宋交涉，宋方派 富弼與遼方使節(jié)談判，于九月達(dá)成協(xié)議，在 澶淵之盟規(guī)定贈遼 歲幣基礎(chǔ)中，再增加增歲幣銀十萬兩、絹十萬匹以了結(jié)這次索地之爭，史稱 重熙增幣。同年冬，遼興宗因張儉獻(xiàn)策有功改封張儉為陳王。

重熙二十二年（1053年）正月二十九日，張儉逝世，終年九十一歲。

張儉注重節(jié)儉，他只穿粗絲織成的絹帛，每餐只食一菜，按月發(fā)的俸祿有節(jié)余的，便拿來接濟(jì)親朋舊友。一次正當(dāng)冬天，在遼興宗歇息之便殿奏報事務(wù)，遼興宗見他袍子破舊，暗里派近侍用火夾穿個洞做上記號，每次見到他都沒有換下來。遼興宗問其緣故，張儉回答說：“我穿這件袍子已經(jīng)三十年了�！碑�(dāng)時遼興宗崇尚奢侈華麗，所以張儉用這種做法微言諷喻遼興宗。遼興宗憐憫他清貧，讓他任意取用內(nèi)府物品，張儉奉詔后只拿了三匹布出來，因此更加受到遼興宗的嘉許重用。

有一次，官府捉住了八個盜賊，已經(jīng)斬首之后，才又捉拿到真正的犯人。被斬首者的家人申訴冤屈，張儉接連三次請求審理。遼興宗大怒說“：你難道想要朕償命不成？”張儉說“：八家老小冤苦無告，如果能稍稍加以存問撫恤，使他們能夠收尸下葬，就足以安撫活著和死去的人了�！边|興宗于是聽從了他的建議。

張儉死后，遼興宗下遣，以昭文館直學(xué)士、諸宮制置使 李珂擔(dān)任敕祭發(fā)引使，在重熙二十二年（1053年）五月十日，將張儉葬于析津府宛平縣仁壽鄉(xiāng)陳王里。

1969年，張儉的墓志銘在北京西城樺皮廠出土。無志蓋，墓壙遺物甚少。但有大量勾紋磚，似已遭盜掘。墓志銘志文前題“故貞亮私靖保義守節(jié)耆德功臣洛京留守開府儀同三司守太師尚父兼政事令上柱國陳王食邑二萬五千戶食實封貳仟伍佰戶清河張王墓志銘并序”六十五字。又“宣政殿學(xué)士崇祿大夫行禮部尚書兼知制誥修國史上柱國弘農(nóng)郡開國公食邑三千五百戶食實封叁佰伍拾戶楊佶撰”四十八字。

元·脫脫《遼史》：“張儉名符帝夢，遂結(jié)主知。服弊袍不易，志敦薄俗。功著兩朝，世稱賢相，非過也。”

元·脫脫《遼史》：“儉在相位二十馀年，裨益為多�！�

曾祖父：張禮，曾任左散騎常侍。

祖父：張正，曾任太中大夫檢校尚書左仆射、守太仆卿，死后贈太子少師。

祖母：李氏，死后贈趙國太夫人。

父親：張雍，曾任左贊善大夫，死后贈太子太傅。

母親：歸德軍節(jié)度使、檢校太師、同政事門下平章事、贈侍中劉敏之女，死后贈燕國太夫人。

叔父：張琪，字伯玉，歷任龍門、文德縣令。

堂弟：張儼，張琪之子。

夫人：于氏，淮南人，武清縣令于澄之長女。封齊國夫人。重熙十八年（1049年）五月十六日病亡，享年八十二。

長子：張禹稱，未仕而卒。

次子：張嗣甫，未冠而卒。

三子：張嗣宗，進(jìn)士、朝議大夫、守衛(wèi)尉鄉(xiāng)少卿、上輕車都尉、賜紫金魚袋。

女婿：王景運，進(jìn)士。起居郎知制誥。東京戶部副使，娶張儉長女。

女婿：鄭弘節(jié)，進(jìn)士、翰林學(xué)士、給事中、知制誥，娶張儉次女。

堂侄：張嗣復(fù)，張儼之子，左仆射兼侍中，晉國公，其妻鄭氏為鄭弘節(jié)之女、鄭顓之姐。

侄孫：張嶠，張嗣復(fù)之子，歷朝議大夫、守司農(nóng)少卿、忠順軍節(jié)度副使。

侄孫女：張館，娶于馬直溫為妻。

《遼史·卷八十·列傳第十》有傳。