段志玄的父親段偃師，曾任太原郡司法書佐。段志玄身材偉岸，器宇軒昂，但是為人無賴，屢次違反法紀(jì)。

611年（大業(yè)七年），隋煬帝遠(yuǎn)征高句麗，段志玄時年十四歲，應(yīng)募從征。后來，段志玄隨父親客居太原，得到李世民的賞識。

617年（大業(yè)十三年），唐高祖李淵在晉陽（今山西太原）起兵反隋。段志玄募兵千余人，被授為右領(lǐng)大都督府軍頭，并擔(dān)任先鋒，奪取霍邑（今山西臨汾）、絳郡（今山西新絳），攻打永豐倉（在今陜西大荔），累功至左光祿大夫。

后來，段志玄隨劉文靜到潼關(guān)抵御屈突通。劉文靜被桑顯和偷襲，軍營潰散。段志玄率領(lǐng)二十余騎沖陣，連殺數(shù)十人，身中流失，仍三次沖入敵陣。最終，唐軍軍心大振，桑顯和大敗。不久，段志玄與諸將追擒屈突通，因功授樂游府驃騎將軍。 

621年（武德四年），秦王李世民東征王世充。段志玄在作戰(zhàn)時馬倒被擒，敵軍兩將抓著他的發(fā)髻，要將他帶走。在渡洛水時，段志玄縱身跳起，將二人拉墜馬下，奪得馬匹馳歸。數(shù)百人在后面追趕，但是都不敢逼近。不久，王世充、竇建德相繼被平定，段志玄因功升任秦王府右二護(hù)軍。

626年（武德九年），太子李建成欲謀害李世民，以重金賄賂段志玄，企圖誘其歸順。段志玄拒不接受，并將此事告知李世民，后與尉遲敬德等人發(fā)動玄武門之變，誅殺李建成、李元吉。不久，李世民登基，是為唐太宗，段志玄遷任左驍衛(wèi)大將軍，封樊國公

634年（貞觀八年），段志玄被任命為西海道行軍總管，率領(lǐng)邊軍與契苾、黨項(xiàng)等部落兵馬征討吐谷渾。吐谷渾大敗，段志玄率軍追擊八百余里，到達(dá)青海湖三十余里時不敢再追，致使吐谷渾驅(qū)趕著牧馬逃走。唐太宗大怒，罷免其官職，后又讓他官復(fù)原職。[ 

637年（貞觀十一年），唐太宗封功臣為世襲刺史，段志玄為金州刺史，改封褒國公。638年（貞觀十二年），升任右衛(wèi)大將軍。640年（貞觀十四年），又加鎮(zhèn)軍大將軍。

642年（貞觀十六年），段志玄患病。唐太宗前往探視，并打算封其子為五品官。段志玄請求將官職封給弟弟段志感，唐太宗遂封段志感為左衛(wèi)郎將。不久，段志玄病逝，終年四十五歲，贈輔國大將軍、揚(yáng)州都督，謚號莊肅（一作忠壯），并陪葬昭陵。

長孫皇后出葬時，段志玄與宇文士及分別統(tǒng)領(lǐng)兵馬守衛(wèi)肅章門。太宗在夜晚派遣使者到達(dá)他們兩人駐所，宇文士及開門放行，段志玄則閉門不讓使者進(jìn)來，并道：“軍門夜晚不能開。”使者道：“我有皇帝的手敕�！倍沃拘�道：“夜間難辨真?zhèn)��！笔拐邿o奈，只好等待到天明。太宗聽說后，稱贊道：“這是真正的將軍，周亞夫也不過如此�！�

李世民：司徒趙國公無忌、……故輔國大將軍揚(yáng)州都督褒忠壯公志元、……故徐州都督胡壯公秦叔寶等：或材推棟梁，謀猷經(jīng)遠(yuǎn)，綱紀(jì)帷帳，經(jīng)綸霸圖；或?qū)W綜經(jīng)籍，德范光煒，隱犯同致，忠讜日聞；或竭力義旗，委質(zhì)藩邸，一心表節(jié)，百戰(zhàn)標(biāo)奇；或受�艔R堂，辟土方面，重氛載朗，王略遐宣。并契闊屯夷。劬勞師旅，贊景業(yè)於草昧，翼淳化於隆平。

呂溫：褒公虎臣，先運(yùn)而臻。謁帝太原，許唐以身。擁劍駕氣，騰風(fēng)躍云。積忠累仁，光有厥勛。建旄北伐，細(xì)柳宵屯。風(fēng)謐霜凝，嚴(yán)扃達(dá)晨。天子之使，駐車軍門。安眾秉威，此真將軍。����桓桓，克壯有聞。

劉昫：敬德奪槊陷陣，鼓勇王師，卻賂報恩，竭忠霸主。然而奮拳負(fù)氣，非自全之道；文皇告誡之言，可為功臣藥石。叔寶善用馬槊，拔賊壘則以寡敵眾，可謂勇矣。知節(jié)志平國難，拜隼篽則致命輔君，可謂忠矣。而并曉世充之猜貳，識唐代之霸圖，可謂見幾君子矣。志玄中鏑不言，竟安師旅。公謹(jǐn)投龜定議，志助儲君。皆所謂猛將謀臣，知機(jī)識變。有唐之盛，斯實(shí)賴焉。

643年（貞觀十七年），唐太宗將二十四位功臣的畫像掛在凌煙閣，段志玄位列第十。 

668年（總章元年），段志玄等三十六位太原元從、西府舊臣被唐高宗評為第一等功臣。 

705年（神龍元年），唐中宗追封前代功臣二十五家，段志玄也在其中，“所食實(shí)封，并依舊給”。 

779年（大歷十四年），唐代宗評定前代功臣，段志玄與李孝恭、尉遲敬德等人同列第二等二十四人之內(nèi)。 

780年（建中元年），段志玄與裴寂、劉文靜等三十四人被定為功臣上等。

父親

段偃師，隋末為太原郡司法書佐，隨唐高祖起兵，官至郢州刺史。

兄弟

段志感，曾任左衛(wèi)郎將。

兒子

段瓚，襲封褒國公，官至左屯衛(wèi)大將軍。 

段瓘，曾任朝邑令。 

段珪，曾任宣州長史。 

孫子

段懷簡，段瓚之子，襲封褒國公，官至太子詹事。 

段懷昶，段瓘之子，曾任德州參軍。 

段懷晏，段瓘之子。 

段懷皎，段瓘之子。 

段懷本，段珪之子，曾任禮部郎中。

《舊唐書·卷六十八·列傳第十八》

《新唐書·卷八十九·列傳第十四》

《資治通鑒·卷一百八十四·隋紀(jì)八》

《資治通鑒·卷一百八十八·唐紀(jì)四》

《資治通鑒·卷一百九十一·唐紀(jì)七》

《資治通鑒·卷一百九十四·唐紀(jì)十》

段志玄墓

段志玄墓是昭陵陪葬墓之一，位于陜西禮泉縣九嵕山。

段志玄碑

段志玄碑立于唐朝貞觀十六年（642年），現(xiàn)存于昭陵碑林第一室。碑額以篆書陽刻“大唐故右衛(wèi)大將軍揚(yáng)州段公之碑”，碑文以楷書書寫，共32行，滿行65字，漫漶過半。

古典小說《說唐全傳》中，段志玄作段志遠(yuǎn)，是開唐四老將之一，封定國公，征遼東時在鳳凰山被蓋蘇文殺死。

《興唐傳》等隋唐評書中，段志玄作段志賢，原為隋朝大將，與花公吉、花公義、馬三保、殷開山、劉弘基同守金堤關(guān)，都使大刀，號稱“六口大刀鎮(zhèn)金堤”。賈柳樓四十六友反山東，程咬金斧劈花公義，秦叔寶槍挑花公吉，奪取金堤關(guān)，段志玄四人投奔潼關(guān)大帥魏文昇，李淵起兵時獻(xiàn)潼關(guān)歸降，封開國公。