楊義臣，代人，本姓尉遲。父親尉遲崇，仕北周，為儀同大將軍，率兵鎮(zhèn)守恒山。當(dāng)時(shí)，楊堅(jiān)任定州總管。尉遲崇知道楊堅(jiān)相貌非常，常常與他交結(jié)，楊堅(jiān)對(duì)他很親近。

580年，楊堅(jiān)為北周丞相后，尉遲迥起兵，尉遲崇因與反賊是同族的緣故，把自己關(guān)在牢里，派人赴京請(qǐng)罪。高祖下書慰問他，讓他乘驛車回朝，把他老是安排在身邊。楊堅(jiān)代周建隋后，封尉遲崇為秦興縣公爵。

當(dāng)時(shí)義臣還年幼，養(yǎng)育在宮中。不滿二十歲，就已奉詔像千牛那樣當(dāng)侍衛(wèi)幾年了，楊堅(jiān)給他的賞賜很多。楊堅(jiān)閑談時(shí)曾說(shuō)到過去的一些朋友，看著義臣，嗟嘆很久。因此下詔書說(shuō)：“我剛受命登基時(shí)，群兇尚未平定，有識(shí)之士，有足可懷。尉遲義臣與尉遲迥，本同骨肉。尉遲迥既已作亂于鄴城，其父尉遲崇當(dāng)時(shí)在常山，統(tǒng)帥部隊(duì)，既與尉遲迥相鄰，又與尉遲迥是至親。他知道逆順的大理，認(rèn)識(shí)天人的意思，就陳述丹心，擔(dān)心被反賊牽連，于是自己把自己抓起來(lái)，請(qǐng)求到丞相府來(lái)。到北狄入侵時(shí)，他又橫戈殺敵，輕生重義，馬革裹尸。他的節(jié)操表現(xiàn)在生死之上，他的事跡貫穿于人間地下。即使是給他高官大賞，并讓官爵延及于他的子孫，也不足以表彰他松柏一樣的壯志，也不足以表彰他的節(jié)義門庭。義臣，可賜姓楊氏，賜錢三萬(wàn)貫，酒三十斛，米麥各百斛，把他編入楊門家譜，作朕的堂孫。”不久，授楊義臣為陜州刺史。

楊義臣謹(jǐn)慎忠厚，長(zhǎng)于騎馬射箭，有將領(lǐng)之才，因此楊堅(jiān)很器重他。

開皇十九年（599年），突厥達(dá)頭可汗進(jìn)犯邊塞，楊義臣以行軍總管身份，率領(lǐng)步兵、騎兵三萬(wàn)人馬，出白道，與突厥軍相遇，交戰(zhàn)，大破突厥。

開皇二十年（600年），突厥又進(jìn)犯邊塞，雁門、馬邑二地多受其害。楊義臣出兵擊破突厥，突厥敗逃塞外，楊義臣率兵追擊，追到大斤山，與突厥相遇。當(dāng)時(shí)，太平公史萬(wàn)歲率領(lǐng)軍隊(duì)也趕到了，楊義臣與史萬(wàn)歲合力出擊，大敗突厥兵。史萬(wàn)歲被楊素陷害致死，楊義臣的功勞竟不被著錄。

仁壽初年（501年），楊義臣拜授朔州總管，楊堅(jiān)賜給他御用的甲胄。

仁壽四年（604年），楊堅(jiān)駕崩，楊廣即位，漢王楊諒在并州起兵。當(dāng)時(shí)，代州總管李景被漢王的部將喬鐘葵包圍，楊廣下詔讓楊義臣去救援他。

楊義臣率領(lǐng)騎兵、步兵二萬(wàn)，夜出西陘，快天亮?xí)r，已趕了幾十里路。喬鐘葵偵悉楊義臣人馬少，于是全部上陣來(lái)抵抗楊義臣。鐘葵的副將王拔，驍勇無(wú)敵，特善用矛肖，射他又射不中，他常帶幾個(gè)騎兵沖鋒陷陣。楊義臣特?fù)?dān)心他，于是招募能夠抵擋王拔的人，車騎將軍楊思恩請(qǐng)求與王拔交戰(zhàn)。楊義臣見思恩氣貌雄勇，對(duì)他說(shuō)：“真是壯士！”賜給他一卮酒。楊思恩遠(yuǎn)遠(yuǎn)望見王拔站在陣后，就把酒斛往地上一丟，策馬而赴敵。楊思恩沖了兩次，都沒有克敵制勝，楊義臣就又選十幾個(gè)騎兵隨他前去。楊思恩于是向前猛沖，殺了幾個(gè)叛軍，一直沖到王拔的軍旗下。兩人短兵交戰(zhàn)，楊思恩的隨從騎兵退后，于是楊思恩被王拔所殺。王拔于是乘勝進(jìn)軍，楊義臣軍退了十幾里。楊義臣于是贖回思恩的尸體，放聲痛哭，三軍無(wú)不流淚。楊思恩的隨從騎兵都被腰斬。

楊義臣因自己兵少，于是把軍中的牛和驢子全部清出來(lái)，清了幾千頭，又令兵卒幾百人，每人拿一個(gè)鼓，偷偷地把牛和驢子趕到山谷里，出其不意。吃了晚飯，楊義臣又與鐘葵交戰(zhàn)，兩軍剛交手，楊義臣就命令驅(qū)趕牛和驢子的疾速前進(jìn)。一時(shí)間，戰(zhàn)鼓震天，塵埃彌天，鐘葵軍不知究竟，還以為是伏兵大發(fā)，因此大大地潰敗。楊義臣縱兵反擊，大破鐘葵。楊義臣因戰(zhàn)功升任上大將軍，賜縑采二千段，雜采五百段，女妓十人，良馬二十匹，繼而授他為相州刺史。

大業(yè)三年（607年），楊廣調(diào)楊義臣任宗正卿。不久，轉(zhuǎn)任太仆卿。

大業(yè)五年（609年），楊義臣隨煬帝征討吐谷渾。楊廣令義臣駐軍于琵琶峽，軍營(yíng)相連達(dá)八十里，南接元壽，北連段文振，把吐谷渾國(guó)主包圍在覆袁州。

大業(yè)八年（612年），又隨煬帝征討遼東，楊義臣率軍直指肅慎道。到了鴨綠江，與乙支文德交戰(zhàn)，義臣每次都當(dāng)先鋒，一天打了七次勝仗。后與各路軍馬都打了敗仗，竟坐罪免職。不久復(fù)職。

大業(yè)九年（613年），以義臣為副將，與大將軍宇文述去進(jìn)攻平壤。到了鴨綠江，碰上楊玄感作亂，班師回朝，代理趙郡太守。妖賊向海公聚眾作亂，寇掠于扶風(fēng)、安定兩地之間，楊義臣奉圣旨掃平了他們。繼而在大業(yè)十年（614年）隨楊廣再征討遼東，義臣升為左光祿大夫。

當(dāng)時(shí)渤海人高士達(dá)、清河人張金稱，都相聚為盜，已有幾萬(wàn)之眾，攻陷郡縣。楊廣派將軍段達(dá)進(jìn)討，不能取勝。有詔讓楊義臣率領(lǐng)從遼東回來(lái)的兵馬幾萬(wàn)去進(jìn)剿。楊義臣大破高士達(dá)，斬了張金稱。又收拾降兵，進(jìn)入豆子赹，討伐格謙，活捉了他。

此后，楊義臣游弋河北一帶，隨把戰(zhàn)況和河北群賊蜂起的情況上書朝廷。朝中內(nèi)侍郎虞世基負(fù)責(zé)把各地上奏的表文呈送楊廣，他知道楊廣不愿聽到各地盜亂情況的奏報(bào)，每當(dāng)有這樣的奏報(bào)，他總是掩飾真情，不實(shí)事求是地報(bào)告，只是對(duì)楊廣說(shuō)：“盜賊成不了氣候，地方的官吏正在全力追剿，很快就會(huì)徹底剿除的”并勸說(shuō)皇帝不必憂心介意。當(dāng)楊廣接到楊義臣在河北收降數(shù)十萬(wàn)叛軍的捷報(bào)后，不禁嘆息說(shuō)：“我原來(lái)沒有聽到盜賊發(fā)展到如此地步？賊勢(shì)發(fā)展得這樣快，楊義臣降賊這么多？”虞世基卻仍然對(duì)煬帝說(shuō)：“盜賊都是小股勢(shì)力，雖多但終不能成氣候，不必?fù)?dān)憂；楊義臣幾盡剿除盜賊，長(zhǎng)期在京城之外擁有重兵，很不合適，不得不防”。煬帝竟以為然，隨即下令追回楊義臣，并遣散他的士兵。楊義臣為此報(bào)憾憂憤，不得不回朝聽命。不久后，張金稱、高士達(dá)的余部全都?xì)w附竇建德，河北叛軍復(fù)盛�；爻�后，楊義臣因軍功升任光祿大夫，不久拜授禮部尚書。不久，在官任上去世。

《隋書》

《隋唐演義》

《說(shuō)唐》

《興唐傳》

《唐史演義》

竇建德：“歷觀隋將，善用兵者唯義臣耳�！�

《隋書》：“楊諒干紀(jì)，史祥著獨(dú)克之效，群盜侵?jǐn)_，義臣致三捷之功，此皆名重當(dāng)年，聲流后葉者也�！�

葉適：“隋名將，自韓、賀、楊、史，外如崔仲方、于仲文、段文振等，亦足備驅(qū)使。及再伐遼，至于亡國(guó)殺身，而麥鐵杖、楊義臣、陳稜、沈光之流，猶有可述。葢乘分裂并吞之后，隋雖統(tǒng)一，而天下未嘗無(wú)變，其多將材，固應(yīng)如此也�！�

在褚人獲小說(shuō)《隋唐演義》里，楊義臣在隋煬帝被弒后，聯(lián)合竇建德誅滅宇文化及，為隋煬帝報(bào)仇，然后從此隱居。在《說(shuō)唐》里，楊義臣是靠山王楊林的弟弟，曾擺下一個(gè)八面金鎖陣，后被李元霸、裴元慶、秦用、梁士泰四猛八大錘所破，自殺身亡。在單田芳評(píng)書中，楊義臣為隋唐十三杰的第十杰，使用三叉鬼頭刀，坐騎大青馬。

2012年電視劇《隋唐英雄》：潘海臣飾演楊義臣。