年輕時(shí)候，在南陽(yáng)郡擔(dān)任小吏。公元23年，更始帝劉玄稱帝，陳俊的南陽(yáng)同鄉(xiāng)、大漢宗室劉嘉被任命為太常將軍，劉嘉委任陳俊為他的長(zhǎng)史。公元23年（更始元年）十月，更始帝劉玄派遣劉秀北上鎮(zhèn)慰河北諸州郡。劉秀到河北后四處招納人才，劉嘉就寫了一封信，將手下的陳俊、賈復(fù)推薦給劉秀。陳俊到了劉秀軍中被任命為安集掾。

當(dāng)時(shí)，河北活躍著數(shù)十支農(nóng)民軍，成為劉秀占據(jù)河北的主要障礙。公元24年（更始二年）秋，陳俊隨劉秀率軍進(jìn)攻活動(dòng)于清陽(yáng)(今河北清河?xùn)|南)等地的數(shù)十萬銅馬農(nóng)民軍，銅馬農(nóng)民軍敗退，兩軍再戰(zhàn)于蒲陽(yáng)（今河北完縣），銅馬農(nóng)民軍大敗而降。在這次戰(zhàn)役中，陳俊屢立戰(zhàn)功，蒲陽(yáng)大戰(zhàn)之后，陳俊被劉秀拜為強(qiáng)弩將軍。

擊破銅馬農(nóng)民軍之后，陳俊隨劉秀北上，繼續(xù)追剿向北逃竄的尤來、五幡、大槍農(nóng)民軍，農(nóng)民軍一路向北敗退，幸好原本活躍在青州的五校農(nóng)民軍趕來增援。四部農(nóng)民軍會(huì)師之后人數(shù)再度膨脹到四十萬以上。

恢復(fù)了元?dú)獾霓r(nóng)民軍，在安次縣（今河北廊坊市安次區(qū)）與漢軍展開大戰(zhàn)。在這場(chǎng)戰(zhàn)役中，陳俊所部的對(duì)手是五校農(nóng)民軍。在戰(zhàn)斗中，陳俊下馬，手接短兵，所到之處敵軍必破，率軍追奔二十余里，斬殺了五校農(nóng)民軍的大帥，才肯率軍回營(yíng)。劉秀望而嘆道：“如果漢軍將領(lǐng)作戰(zhàn)的時(shí)候，都像陳俊這樣勇猛，還有什么可以擔(dān)憂的事情！”

安次一戰(zhàn)，在陳俊、馬武等漢軍將領(lǐng)的猛烈攻擊之下，農(nóng)民軍再次敗退，五校農(nóng)民軍向北退入漁陽(yáng)郡，他們所到之處虜掠劫搶，收集糧草以備軍需。見到這種情況，陳俊向劉秀獻(xiàn)計(jì)，他說：“我軍應(yīng)派輕騎兵穿插到賊軍的前面去，讓各地的百姓各自堅(jiān)守壁壘，斷絕賊軍的糧食補(bǔ)給，這樣就可以不戰(zhàn)而殲滅敵人了。”

劉秀聽了以后，深以為然，他馬上派遣陳俊率領(lǐng)輕騎兵穿插到農(nóng)民軍的前面去。見到百姓保守壁壘堅(jiān)固完好的，就令其固守；放散在外的，就掠取過來。這樣一來，農(nóng)民軍除了遺存在野外的一點(diǎn)糧食以外，再也搶不到任何東西吃，軍心大亂，被迫繼續(xù)北逃。

此戰(zhàn)之后，劉秀留下吳漢、陳俊等人繼續(xù)追剿農(nóng)民軍，自己回師南下，臨走時(shí)他對(duì)陳俊說：“賊虜已不足為懼，使這些賊虜陷入困境的，是將軍的策略。”

劉秀回薊之后，陳俊與耿弇、吳漢、景丹、蓋延、朱祐、邳彤、耿純、劉植、岑彭、祭遵、王霸、堅(jiān)鐔、馬武十三將軍繼續(xù)追擊農(nóng)民軍殘部，在潞東、平谷，連續(xù)重創(chuàng)敵軍，斬首一萬三千余級(jí)，最后一直追到右北平郡的無終縣（今天津薊縣）、土垠縣（今河北豐潤(rùn)縣）、俊靡（今河北遵化市），將農(nóng)民軍殘部消滅得干干凈凈。

公元25年（建武元年）六月，劉秀稱帝，封陳俊為列侯。

劉秀即位之后，派遣建威大將軍耿弇、驃騎大將軍景丹、強(qiáng)弩將軍陳俊去清剿厭新農(nóng)民軍，兩軍在敖倉(cāng)開戰(zhàn)，厭新軍戰(zhàn)敗投降。

公元26年（建武二年）春天，陳俊率軍去清剿匡縣農(nóng)民軍，將其盤踞的四個(gè)縣全部攻下，隨后轉(zhuǎn)擊頓丘，所部三城不戰(zhàn)而降，陳俊連立戰(zhàn)功，劉秀十分高興，改封陳俊為新處侯。當(dāng)年秋天，劉秀還下詔給統(tǒng)領(lǐng)全軍的大司馬吳漢拜陳俊為強(qiáng)弩大將軍。連受嘉獎(jiǎng)的陳俊一鼓作氣，又先后剿滅了流竄于河內(nèi)郡的金門農(nóng)民軍、白馬農(nóng)民軍。

公元26年（建武二年）秋天，陳俊與景丹、吳漢、建威大將軍耿弇、建義大將軍朱祐、執(zhí)金吾賈復(fù)、偏將軍馮異、左曹王常、騎都尉臧宮等擊破五校農(nóng)民軍殘部于羛陽(yáng)，光投降的就有五萬多人。

劉秀平定河北之后，開始了統(tǒng)一天下的征戰(zhàn)，首先他要消滅的是在他的東面的劉永、張步、董憲等關(guān)東割據(jù)勢(shì)力。陳俊參加了平定關(guān)東的一系列戰(zhàn)役。

公元27年（建武三年）春，劉秀命令吳漢率領(lǐng)杜茂、陳俊等南下攻打梁王劉永，將其大將蘇茂圍困在廣樂（今河南虞城北）。劉永部將周建率兵來救，兩軍接戰(zhàn)，漢軍大破敵軍，蘇茂、周建棄城突圍出走。吳漢留杜茂、陳俊守廣樂，自率大軍與蓋延將劉永圍困在睢陽(yáng)（今河南商丘市）。不久，城中食盡，劉永被部將所殺。

公元28年（建武四年），陳俊、王梁隨吳漢清剿臨平的五校農(nóng)民軍殘部，一直追到東郡箕山。隨后分兵，陳俊單獨(dú)率軍轉(zhuǎn)攻汝陽(yáng)及項(xiàng)縣，接著又攻拔了南武陽(yáng)。

平定劉永之后，劉秀將目光轉(zhuǎn)向了太山郡（即泰山郡），當(dāng)時(shí)太山郡（即泰山郡）境內(nèi)有很多擁兵自重的地方勢(shì)力，他們多數(shù)都依附于割據(jù)濟(jì)南郡的張步，劉秀想要發(fā)兵占據(jù)太山郡（即泰山郡），大司馬吳漢對(duì)劉秀說：“只有陳俊才能平定此郡�！庇谑莿⑿惆蓐惪�為太山太守，代理大將軍事。張步聽說之后，派遣其部將去攻打陳俊，雙方大戰(zhàn)于嬴下，陳俊大破其軍，一直追到濟(jì)南郡的邊境，光是印綬就繳獲了九十多顆，隨后陳俊又率軍攻下郡內(nèi)諸縣，平定了太山郡（即泰山郡）。

公元29年（建武五年），劉秀下令建威大將軍耿弇率領(lǐng)太山太守陳俊、騎都尉劉歆去討伐張步。耿弇、劉歆、陳俊率兵東進(jìn)，從橋陽(yáng)橋渡河。過河之后，漢軍連破敵軍，直逼張步的老窩劇縣（今山東昌樂縣西）。劇縣城高兵多，易守難攻，陳俊就對(duì)耿弇說：“劇縣的賊兵強(qiáng)盛，我們可以暫時(shí)閉營(yíng)休養(yǎng)士卒，以等待皇帝到來�！惫�弇沒有同意，而是繼續(xù)猛攻，最終張步投降。

平定張步之后，劉秀調(diào)任陳俊為瑯琊郡太守，領(lǐng)將軍事一如過去。這時(shí)瑯琊郡還沒有平定，但齊地的人素來聽過陳俊的威名，所以陳俊一到，盜賊就都解散了。

公元29年（建武5年）6月，光武帝劉秀親征討伐割據(jù)東海郡的董憲。董憲、龐萌一起逃到朐縣。

公元30年（建武6年），朐縣城中的糧食吃沒了，董憲、龐萌秘密率軍離開朐縣，計(jì)劃奪取贛楡縣（屬東海郡），瑯邪太守陳俊察知率軍迎擊，董憲、龐萌大敗而逃，二人在逃亡途中都被殺了。隨后陳俊又乘勢(shì)進(jìn)軍剿滅了朐縣的山寇孫陽(yáng)，瑯琊郡從此平定。

公元32年（建武八年）夏，張步攜妻子逃奔臨淮，與弟張弘、張?zhí)m商議招集他的舊部，乘船入海，陳俊得知后追擊并斬殺了張步。劉秀贊美其功，詔令陳俊得以專征青、徐兩州。

經(jīng)過多年征戰(zhàn)，劉秀基本統(tǒng)一了中國(guó)，只有西南還沒有平定，陳俊幾次上書自請(qǐng)，愿意率軍去平定割據(jù)西南的隗囂和公孫述。劉秀因?yàn)樾枰�他�?zhèn)守關(guān)東而沒有同意，劉秀在給陳俊的詔書中說：“東州剛剛平定，是大將軍的功勞。東州近海擾亂，是盜賊藏身之地，朝廷以此地為重憂，請(qǐng)暫且勉力鎮(zhèn)撫。”

公元37年（建武十三年），劉秀增加陳俊的食邑，定封陳俊為祝阿侯。

公元38年（建武十四年），劉秀征召陳俊回京奉朝請(qǐng)。

公元47年（建武二十三年），陳俊去世。

劉秀：“戰(zhàn)將盡如是，豈有憂哉！”

范曄《后漢書》：“俊撫貧弱，表有義，檢制軍吏，不得與郡縣相干，百姓歌之�！�

贊曰：“宮、俊休休，是亦鷹揚(yáng)�！�

徐鈞：“拒戰(zhàn)交兵勇有馀，旁人驚嘆更誰(shuí)如。肅清海岱勛名立，不負(fù)劉嘉一薦書�！�

談遷：“耿純、陳俊料敵如神，每出而成克捷之勛，非中興良佐乎？”

漢明帝永平年間，明帝追憶當(dāng)年隨其父皇打下東漢江山的功臣宿將，命繪二十八位功臣的畫像于洛陽(yáng)南宮的云臺(tái)，陳俊名列第十九位。

兒子：陳浮，襲爵祝阿侯，后徙封為薪春侯。

孫子：陳專諸，陳浮之子，襲爵薪春侯。

曾孫：陳篤，陳專諸之子，襲爵薪春侯。

《后漢書》、《東觀漢記》有傳。

《太平御覽》、《資治通鑒》均有事跡記載。

《后漢書·卷十八·吳蓋陳臧列傳第八》

在《東漢演義》等通俗小說及民間流傳的評(píng)書、評(píng)話等民間曲藝之中，陳俊，字天生，是二十八星宿之中的畢月烏。

陳俊手使一條鑌鐵棍，智勇雙全。劉秀在白水村起兵之后，進(jìn)攻胡陽(yáng)城，守將韓滔拼命防守軍久攻不下，這時(shí)陳俊出場(chǎng)，他投軍到劉秀營(yíng)中，獻(xiàn)上妙計(jì)，一方面讓漢軍輪流攻城，使韓滔疲憊不堪，一方面他混入城中，假裝投靠韓滔，趁韓滔困乏入睡之時(shí)，殺了韓滔，獻(xiàn)了胡陽(yáng)，從此隨劉秀征戰(zhàn)四方，平定天下，被封為棘陽(yáng)侯。