連簡少有大志， 膽略過人， 嫻于韜略， 精于騎射。 其祖連愿， 北齊時(shí)任并州太原縣令， 因德行高潔， 政績卓著， 有“韋弦兩佩”之譽(yù)； 其父連公， 初任隋代汴州博士， 后遷洛州參軍，是一位精通儒家經(jīng)典的飽學(xué)鴻儒。 唐貞觀十九年（ 645年）， 唐太宗御駕親征遼東， 連簡以“六郡良家子弟”應(yīng)募從征。 因?qū)伊��?zhàn)功， 精于騎射， 被提升為六品飛騎尉， 成為隨侍、 警衛(wèi)皇帝的親軍衛(wèi)隊(duì)軍官。 每當(dāng)朝會(huì)大典， 則“周衛(wèi)階陛， 聽敕宣入”， 皇帝出行巡幸，則“夾馳道” 護(hù)衛(wèi)。 寵榮顯赫， 為人稱道。 后解職歸家，頤養(yǎng)天年。
連簡卒于永昌 元年（ 689 年）， 享年 66 歲。 天冊(cè)萬歲 三年（ 697 年） 其夫人張氏逝世。 合葬于襄垣桃林山連氏祖塋。