鄭俊彥初任陸軍小教習(xí)，后任曹錕第三鎮(zhèn)十二標(biāo)三營督隊(duì)官。后入皖系督軍盧永祥部下，在中央陸軍第十師，歷任連、營、團(tuán)、旅長、師參謀長。民國15年夏，江浙戰(zhàn)爭，盧永祥下野，由孫傳芳收編，鄭俊彥升任浙江陸軍第十師師長。民國16年10月，隨孫傳芳反奉，與白寶山、陳調(diào)元共同通電討伐奉軍。

民國17年10月，北伐軍進(jìn)攻江西，鄭俊彥任孫傳芳五省聯(lián)軍第二方面軍司令，指揮李彥青、彭德銓、王良田、楊賡和四個(gè)軍，自南尋線向湘贛邊境進(jìn)擊。孫傳芳江西戰(zhàn)爭失敗后，整編全軍。鄭俊彥任淮安鎮(zhèn)守使，兼第十師師長。民國18年，轉(zhuǎn)移滬寧線，為孫傳芳軍預(yù)備隊(duì)。后退往江北，任張作霖安國第一方面軍副司令，兼第二軍軍長。8月27日，鄭俊彥與李寶章督率第一路軍渡過長江，進(jìn)攻南京，并派兵至當(dāng)涂地區(qū)，不久，失敗北退。民國19年2月6日，任第一方面軍團(tuán)副軍團(tuán)長，兼第十師師長。2月16日，改任第一方面軍團(tuán)前敵總指揮，轄四個(gè)軍，兼第二軍軍長，退往黃河以北。6月11日，鄭俊彥、李寶章被閆錫山收編。16日，改編為第三集團(tuán)軍第五軍團(tuán)，鄭俊彥任總指揮，李寶章、馬寶珩任副總指揮。民國19年，鄭俊彥改投蔣介石，編遣會(huì)議，將其部縮編為三旅制的第四十七師，鄭俊彥任師長，王金鈺任副師長。不久，鄭俊彥去職。生卒年不詳。

民國13年（1924年）10月，受任為陸軍第10師師長。次年11月，任五省聯(lián)軍第14師師長。1926年10月，升為五省聯(lián)軍贛軍總司令。1927年，授安國軍第1方面軍團(tuán)副總司令、第2軍軍長兼第10師師長。民國17年（1928年）6月，因在與北伐軍的抗戰(zhàn)中失敗而下野。