俊豪爽有膽氣，高祖微時，深相親附。與遼西段長、太原龐蒼鷹俱有先之鑒。長為魏懷朔鎮(zhèn)將，嘗見高祖，甚異之，謂高祖云：“君有康世之才，終不徒然也，請以子孫為托。”興和中，啟贈司空公。子寧，相府從事中郎，天保初，兼南中郎將。蒼鷹交游豪俠，厚待賓旅，居于州城。高祖客其舍，初居處于蝸牛廬中，蒼鷹母數(shù)見廬上赤氣屬天。蒼鷹亦高祖有霸王之量，每私加敬，割其宅半以奉高祖，由此遂蒙親識。高祖之牧晉州，引為兼治中從事史，行義寧郡事。及義旗建，蒼鷹乃棄家間行歸高祖，高祖以為兼行臺倉部郎中。卒于安州刺史。

俊初為杜洛周所虜，時高祖亦在洛周軍中，高祖謀誅洛周，俊預其計。事泄，走奔葛榮，仍背葛歸爾朱榮。榮入洛，為平遠將軍、帳內別將。從破葛榮，除諫議大夫。又從平元顥，封烏洛縣男。隨高祖舉義，為都督。高祖平鄴，及破四胡于韓陵，俊并有戰(zhàn)功。太昌中，出為濟州剌史，為治嚴暴，又多受納，然亦明解有部分，吏民畏服之。性好賓客，頗稱施與。后胡遷等據(jù)兗州作逆，俊與齊州刺史尉景討平之。

魏武帝貳于高祖，以濟州要重，欲令腹心據(jù)之。陰詔御史構俊罪狀，欲以汝陽王代俊，由是轉行兗州事。高祖以俊非罪，啟復其任。武帝不許，除賈顯智為刺史，率眾赴州。俊以防守嚴備，顯智憚之，至東郡，不敢前。

天平中，為都督，隨領軍婁昭攻樊子鵠于兗州，又與行臺元子思討元慶和，俱平之。侯深反，復以俊為大都督，率眾討之，深敗走。又轉揚州刺史。天平三年秋，卒于州，時年四十二。贈持節(jié)、侍中、都督、冀州刺史、尚書令、司空公，謚曰威武。齊受禪，詔祭告其墓�；式ǔ�，配享高祖廟庭。