山偉，字仲才，河南 洛陽人，他的祖先為 代人。祖父山強(qiáng)，容貌美好，身長(zhǎng)八尺五寸，擅長(zhǎng)騎射，彎弓力量可以達(dá)到五石。他出任奏事中散，跟從魏顯祖（即魏 獻(xiàn)文帝拓跋弘）到方山打獵，有兩只狐貍從御座前驚起，魏顯祖令山強(qiáng)射殺它們，一百步之內(nèi)兩只狐貍都被射倒。山強(qiáng)的官做到內(nèi)行長(zhǎng)。山偉的父親，山稚之，是營陵令。山偉隨父到縣里，拜縣里的王惠為師，廣泛涉獵文史著作。山稚之的官后來做到了金明太守。

熙平元年（公元516年），元匡擔(dān)任 御史中尉，推舉山偉兼任 侍御史。入衙五天，便碰到皇帝元旦與群臣舉辦朝會(huì)。山偉負(fù)責(zé)掌管守衛(wèi)神武門，他妻子的堂叔是羽林隊(duì)主，在殿門前打直長(zhǎng)，山偉立即向皇帝彈劾他妻子的堂叔。元匡稱贊他，不久官位轉(zhuǎn)正。兼任 國子助教、遷任 員外郎、 廷尉平。

當(dāng)時(shí)天下無事，進(jìn)官十分困難，代郡遷南洛陽的人，大多被吏部所壓制，沒有升職，不能做官。等到 六鎮(zhèn)、 隴西二方叛逆亂起。正光五年（公元524年），領(lǐng)軍元義想啟用 代郡南遷的下門寒士作為傳詔使者以慰悅?cè)诵模�而牧守子孫投遞狀書謀求求此職務(wù)的多達(dá)一百多人。 元義又想杜絕這種現(xiàn)象，因此啟奏立勛附隊(duì)，令各依門第出身。從此北人都被收錄。山偉于是上奏記錄此事，贊頌元義的美德。元義從來都不認(rèn)識(shí)山偉，找侍中安豐王元延明、黃門郎元順詢問，元順等因此稱薦他。元義命令仆射元?dú)J引山偉兼任尚書二千石郎，而后正名士郎。修撰《 起居注》。仆射元順主持選舉，上表推薦山偉為 諫議大夫。

爾朱榮加害朝官，山偉當(dāng)時(shí)在朝廷值班，所以免于禍難。等到莊帝入宮，依舊讓他擔(dān)任給事黃門侍郎。不久，山偉擔(dān)任 著作郎。 先前被廢的皇帝再次登極，山偉拜授 安東將軍、 秘書監(jiān)，且任然擔(dān)任著作。爾朱榮所率領(lǐng)的胡人騎兵因殺朝廷大臣太多，不敢進(jìn)入洛陽城，便想將國都遷到北方。爾朱榮猶疑了很長(zhǎng)時(shí)間，武衛(wèi)將軍泛禮堅(jiān)決反對(duì)遷都。十四日，爾朱榮護(hù)送孝莊帝進(jìn)入洛陽城。孝莊帝登上太極殿，下詔大赦天下，改年號(hào)為 建義。跟從太原王爾朱榮的將士，全部晉升為五級(jí)官階，在京城中的文官晉升二級(jí)官階，武官晉升三級(jí)，百姓免除租役三年。當(dāng)時(shí)文武百官已蕩然無存，即使活下來的也大都逃竄藏匿起來，不再露面，只有 散騎常侍山偉一人拜見皇帝，接受赦免。

當(dāng)初， 爾朱兆（爾朱榮侄子）攻入洛陽，官員奔散而去，國史典書高法顯秘密埋起史書，所以史書不曾遺落。山偉把這當(dāng)作自己的功勞，上表告訴皇上請(qǐng)求賞爵。山偉依附迎奉 爾朱世�。�爾朱榮堂弟），于是被封東阿縣伯，而法顯只獲的男爵。山偉不久官至侍中。天平元年（公元534年），除授衛(wèi)大將軍、中書令，監(jiān)管修編《起居注》。后以本官又領(lǐng)著作，死于官。朝廷追贈(zèng)他為驃騎大將軍、開府儀同三司、都督、幽州刺史，謚號(hào)為文貞公。

《魏書》：史之遺闕，偉之由也。外示沉厚，內(nèi)實(shí)矯競(jìng)。與綦俊少甚相得，晚以名位之間，遂若水火。與宇文忠之之徒代人為黨，時(shí)賢畏惡之。而愛尚文史，老而彌篤。

在爾朱榮攻入洛陽，扶持孝莊帝之前，山偉與儀曹郎袁升、屯田郎李延孝、外兵郎李?yuàn)J、三公郎王延業(yè)等人并駕而行，山偉稍稍居后。路上碰到一個(gè)尼姑，她望他們嘆氣說：“這些人哪，將會(huì)同日而死�！睂�(duì)山偉說：“你剛近天子，應(yīng)當(dāng)作好官�！倍�后爾朱榮加害朝官，袁升等四個(gè)人，都在河陰遇害，果然應(yīng)驗(yàn)了她說的話。

祖父：山強(qiáng)，任奏事中散、內(nèi)行長(zhǎng)。

父親：山稚之，任營陵令、金明太守。

《魏書》有傳，《 資治通鑒》有事跡記載。