入黨后，葛成俊在中共蘇魯邊區(qū)特委的直接領(lǐng)導(dǎo)下，積極從事黨組織的發(fā)展工作。在他和李紹久、沈廷信等同志的努力下，抗日戰(zhàn)爭(zhēng)前，以高橋?yàn)橹行模�黨支部發(fā)展到九個(gè)，黨員90多人。葛成俊先后任高橋黨支部書(shū)記和黨總支書(shū)記。

抗日戰(zhàn)爭(zhēng)爆發(fā)后，葛成俊在繼續(xù)從事黨的組織工作的同時(shí)，積極從事抗日武裝的發(fā)展工作，發(fā)動(dòng)黨員賣(mài)地買(mǎi)槍。他家沒(méi)地，把自己唯一的家產(chǎn)一條牛賣(mài)掉，買(mǎi)回180排子彈�；I資200塊鋼洋，買(mǎi)回了14支槍。1938年，臨沂城戰(zhàn)役后，國(guó)民黨龐炳勛部退至抱犢崮山區(qū)。葛成俊遵照魯南專(zhuān)署于化琪專(zhuān)員的指示，組織50余人，以到龐炳勛部當(dāng)兵名義，扛回57條槍?zhuān)瑓⒓恿宋尹h領(lǐng)導(dǎo)的抗日武裝義勇隊(duì)。

此后，葛成俊又回到地方，發(fā)展黨組織，建立抗日武裝，先后任中共尚村鄉(xiāng)委組織委員，四縣邊聯(lián)縣、雙山縣、費(fèi)騰嶧邊聯(lián)縣，溫河縣副區(qū)長(zhǎng)、區(qū)長(zhǎng)，區(qū)中隊(duì)長(zhǎng)。1940年8月，他和邊聯(lián)縣七區(qū)區(qū)長(zhǎng)劉清如，帶領(lǐng)了30人的區(qū)中隊(duì)，消滅了頑軍3個(gè)中隊(duì)，俘虜90多人，繳獲白布40匹，面粉20余袋。打擊了頑軍的囂張氣焰，有力地支援了魯南黨、政、軍機(jī)關(guān)。他曾先后5次帶領(lǐng)區(qū)中隊(duì)升級(jí)到主力部隊(duì)， 為抗日戰(zhàn)爭(zhēng)輸送了一大批有生力量。

1941年，“4.25”事變，葛成俊奉命偵察敵情，并由他帶路，使四縣邊聯(lián)縣委、縣政府機(jī)關(guān)勝利突圍。

葛成俊機(jī)警勇敢，不怕?tīng)奚�，�?jīng)常孤身一人深入敵穴，鎮(zhèn)壓罪大惡極的漢奸，使敵人聞風(fēng)喪膽。日、偽軍曾懸賞逮捕，均未得逞。喪心病狂的敵人將他父親抓去，妄圖逼他就范，葛成俊毫不動(dòng)搖。最后敵人把他父親殺死，他也沒(méi)有回家。他把仇恨埋在心里，更加頑強(qiáng)地與敵人斗爭(zhēng)。在抗日戰(zhàn)爭(zhēng)最困難的時(shí)候, 魯南區(qū)大部偽化, 但葛成俊仍在原地堅(jiān)持斗爭(zhēng), 打擊敵人,成為抱犢崮山區(qū)一桿不倒的紅旗，受到魯南區(qū)黨委的表?yè)P(yáng)。

1947年，國(guó)民黨“還鄉(xiāng)團(tuán)”占領(lǐng)費(fèi)縣，在斗爭(zhēng)最殘酷的時(shí)候，葛成俊帶領(lǐng)十幾人的武裝，堅(jiān)持斗爭(zhēng)，震懾?cái)橙�，鼓舞群眾，有效地保衛(wèi)了人民生命財(cái)產(chǎn)的安全，保護(hù)了一部分黨的組織，保護(hù)了魯南區(qū)和費(fèi)縣隱藏的35萬(wàn)斤小麥和351條槍?zhuān)瑸轸斈辖夥艖?zhàn)爭(zhēng)保存了物質(zhì)基礎(chǔ)。

在鋤奸斗爭(zhēng)，動(dòng)員參軍、支援前線以及土改工作中，葛成俊多次立功受獎(jiǎng)。

建國(guó)以后，葛成俊歷任區(qū)長(zhǎng)，銅山縣武裝部長(zhǎng)，費(fèi)縣各界人民代表大會(huì)常務(wù)委員，費(fèi)縣人民委員會(huì)駐會(huì)委員。他經(jīng)常對(duì)人民群眾、青少年進(jìn)行革命教育，鼓勵(lì)人們發(fā)揚(yáng)革命傳統(tǒng)，不斷爭(zhēng)取社會(huì)主義建設(shè)的新勝利。葛成俊同志1982年4月離休，1992年2月不幸病逝。