1938年2月，殷效舜參加永城縣動(dòng)委會(huì)開(kāi)辦的抗日青年訓(xùn)練班，接受軍政訓(xùn)練。3月，隨抗日工作團(tuán)巡回鄉(xiāng)間，宣傳抗日救國(guó)，并與永西青年季壽楨、霍大儒、胡敬旃等成立永四軍區(qū)青年抗日救國(guó)同盟會(huì)（后易名為政治研究會(huì)）。5月，永城淪陷，殷效舜隨共產(chǎn)黨人劉屏江、盛稅瑩、王卓然等組建的抗日學(xué)生隊(duì)，鼓動(dòng)永西北至永西南一帶的青年抗日，引導(dǎo)民間各式武裝走抗日道路。10月，他由王卓然帶領(lǐng)到龍崗集以西的王石井欄村，參加共產(chǎn)黨人壽松濤等在國(guó)民黨那個(gè)豫東保安第三總隊(duì)中舉辦地抗日干部訓(xùn)練班，系統(tǒng)學(xué)習(xí)共產(chǎn)黨的抗日方針政策。結(jié)業(yè)后任永四區(qū)會(huì)亭鄉(xiāng)任政治指導(dǎo)員，從事舊政權(quán)的改造工作，打擊破壞抗日的言論和行動(dòng)，原頑固派區(qū)長(zhǎng)王月樵狼狽而逃。

1939年6月，加入中國(guó)共產(chǎn)黨，遂任永西區(qū)曹集鄉(xiāng)抗日民主政府鄉(xiāng)長(zhǎng)。并捐獻(xiàn)了家存的一支馬拐槍，動(dòng)員親戚、鄰里、同學(xué)、朋友募槍20余支，以充實(shí)鄉(xiāng)隊(duì)配備，還組織了鄉(xiāng)村農(nóng)婦青等群眾性抗日組織。

1940年3月，土頑田中田部王德勝率人到殷樓殘害殷效舜的家屬撲了空，氣急敗壞地放火焚燒了他家的房屋。殷效舜矢志不移，更加堅(jiān)定了抗戰(zhàn)到底的決心。同年6月，他調(diào)任永四區(qū)行政區(qū)員兼洪福鄉(xiāng)鄉(xiāng)長(zhǎng)。1941年6月，隨新四軍轉(zhuǎn)移津浦路東，先后擔(dān)任中共盱（眙）鳳（陽(yáng)）嘉（山）縣委抗日工作隊(duì)長(zhǎng)，潘村區(qū)區(qū)委書記、縣農(nóng)民抗日救國(guó)會(huì)主任和溯車工作委員會(huì)書記。

1944年夏秋，新四軍四師恢復(fù)原豫皖蘇邊根據(jù)地。11月，四師主力一部繼續(xù)西進(jìn)，執(zhí)行打通豫皖蘇邊中心區(qū)與水東地區(qū)聯(lián)系的任務(wù)。殷效舜等奉命到永西南、亳北、商南交界地帶開(kāi)辟地區(qū)，建立政權(quán)。25日，中共商永亳（不久改稱雪商亳）縣委、商永亳縣抗日民主政府和縣總隊(duì)在馬頭寺宣布成立，李毅兼任縣委書記，丁希凌任副書記兼縣長(zhǎng)，殷效舜任縣委委員，負(fù)責(zé)組織、民運(yùn)等方面工作，不久又兼永四區(qū)區(qū)委書記、區(qū)長(zhǎng)。他和縣委其他領(lǐng)導(dǎo)人在鞏固商三、商五、亳二和永四區(qū)的同時(shí)，還做爭(zhēng)取分化瓦解敵偽軍的工作，組織武裝和干部，向商、亳、鹿、柘結(jié)合部活動(dòng)，漸與水東根據(jù)地溝通聯(lián)系。年底全縣四個(gè)區(qū)發(fā)展到15個(gè)鄉(xiāng)，120個(gè)保，10多萬(wàn)人口。

1945年初春，縣委為解決干部的嚴(yán)重不足，在雪四區(qū)董四口樓舉辦兩期干部培訓(xùn)班，殷效舜和縣委其他委員到訓(xùn)練班講形勢(shì)，進(jìn)行階級(jí)和愛(ài)國(guó)主義教育，宣講黨的抗日政策和群眾工作。同時(shí)丁希凌和殷效舜為貫徹地委群眾工作會(huì)議精神，帶領(lǐng)工作隊(duì)在馬頭寺搞試點(diǎn)，開(kāi)展減租減息和增資運(yùn)動(dòng)。殷效舜在召開(kāi)的第一次貧雇農(nóng)會(huì)上，深入淺出地講“雙減”意義和政策，發(fā)動(dòng)群眾與惡霸地主作說(shuō)理斗爭(zhēng)，爭(zhēng)取“雙減”的勝利，做天下的主人。其間，他還與縣委一起培訓(xùn)“雙減”骨干，研究建立農(nóng)救會(huì)。馬頭寺減租減息試點(diǎn)工作取得很大成績(jī)，其經(jīng)驗(yàn)迅速在全縣推廣。4月下旬，殷效舜親自帶領(lǐng)大部工作隊(duì)員，動(dòng)員和組織商五、亳二兩個(gè)區(qū)群眾開(kāi)展“雙減”運(yùn)動(dòng)。至1945年夏，全縣有982戶佃農(nóng)，從388戶地主手中收回多交租糧9萬(wàn)多公斤，息糧2500多公斤，錢24萬(wàn)元；增資雇工146人，增糧近2.5萬(wàn)公斤，增資2.5萬(wàn)元；評(píng)出縣級(jí)積極分子7人，鄉(xiāng)級(jí)積極分子80人，保級(jí)積極分子176人；區(qū)、鄉(xiāng)、保農(nóng)會(huì)、工會(huì)等群眾組織相繼建立；民兵發(fā)展到1400余人，農(nóng)民黨員發(fā)展到200余名；區(qū)政權(quán)發(fā)展到7個(gè)區(qū)，轄23萬(wàn)多人。10月下旬，殷效舜又赴李集新區(qū)幫助區(qū)委在洪福鄉(xiāng)張火神廟村召開(kāi)萬(wàn)人大會(huì)，組織群眾控訴惡霸地主“張家五虎”（即張虎亭兄弟五人）罪行，對(duì)地主的清算斗爭(zhēng)得以深入穩(wěn)健發(fā)展。

1945年8月，殷效舜任縣委副書記，11月主持縣委日常工作。他同縣長(zhǎng)馮登紫一起，按照上級(jí)部署，在繼續(xù)進(jìn)行發(fā)動(dòng)群眾、開(kāi)展減租減息的同時(shí)，加強(qiáng)黨政軍組織建設(shè)，擴(kuò)軍練兵，發(fā)展地方武裝，讓農(nóng)民休養(yǎng)生息，努力建設(shè)和平民主新國(guó)家。

1946年6月，國(guó)民黨挑起了全面內(nèi)戰(zhàn)。8月中旬，為阻擊國(guó)民黨的進(jìn)攻，殷效舜等組織擔(dān)架200副，民工千余人及大批武裝力量，支援晉冀魯豫野戰(zhàn)軍發(fā)起的隴海戰(zhàn)役，重創(chuàng)國(guó)民黨軍。隨之?dāng)橙酥乇�侵占蕭縣、宿西、宿懷、宿蒙等縣，又向雪商亳撲來(lái)。10月上旬，地委在雪四區(qū)業(yè)廟召開(kāi)會(huì)議，決定“主力外線作戰(zhàn)，地方武裝內(nèi)線堅(jiān)持”。雪商亳分為四個(gè)工作區(qū)，殷效舜任雪四、馬頭工作區(qū)工委書記，率領(lǐng)部分武裝和區(qū)鄉(xiāng)干部轉(zhuǎn)戰(zhàn)永西、夏南，襲擊敵人小股部隊(duì)，打擊還鄉(xiāng)團(tuán)和國(guó)民黨地方政權(quán)。11月下旬，他奉命率部轉(zhuǎn)移到寧陵張弓一帶。29日，殷效舜接受分區(qū)副政委壽松濤的指示，同譚勛、丁汝琛等組織百余人戰(zhàn)斗隊(duì)，連夜東進(jìn)，打回雪商亳。第二天上午，在塢墻附近，遭到國(guó)民黨主力部隊(duì)圍攻，被迫西返，到睢縣境內(nèi)休整。12月，豫皖蘇軍區(qū)成立，雪商亳縣歸屬豫皖蘇三分區(qū)。丁希凌復(fù)任該縣委書記兼縣長(zhǎng)，殷效舜仍任副書記。1947年1月6日，二人率干部和武裝在亳縣大寺集渡過(guò)渦河，拔除了敵大寺集鎮(zhèn)公所。7日進(jìn)入雪商亳縣境，開(kāi)始恢復(fù)區(qū)鄉(xiāng)政權(quán)。

在政權(quán)恢復(fù)和發(fā)展之際，國(guó)民黨軍又對(duì)雪商亳及周邊地區(qū)進(jìn)行殘酷“清剿”。殷效舜帶領(lǐng)軍民一手拿槍，一手分田，在長(zhǎng)達(dá)半年的反“清剿”斗爭(zhēng)中，不但粉碎了敵人“梳篦式戰(zhàn)術(shù)”，4月，又相機(jī)建立了營(yíng)廓區(qū)、杜集區(qū)，為以后建立的商（丘）南辦事處（縣）打下了基礎(chǔ)。至5月21日，在戰(zhàn)爭(zhēng)期間，全縣重新分配土地8000余畝。

1947年7月21日，雪商亳縣貫徹地委推廣的華北土改工作經(jīng)驗(yàn)，重新布置土改，實(shí)行大轟大搞。殷效舜同地委副書記王光宇、縣委書記丁希凌分別到徐暗樓、玉皇閣、孫閣搞土改試點(diǎn)。經(jīng)過(guò)宣傳動(dòng)員，重點(diǎn)突破，運(yùn)動(dòng)很快形成規(guī)模。8月底，殷效舜兼任縣長(zhǎng)，同丁希凌一起繼續(xù)領(lǐng)導(dǎo)全縣土改運(yùn)動(dòng)。據(jù)9月統(tǒng)計(jì)，全縣已有9718戶貧雇農(nóng)分到土地53911畝；分配浮財(cái)：小麥60萬(wàn)公斤，牲口1150頭及諸多農(nóng)具；2個(gè)區(qū)農(nóng)會(huì)，32個(gè)鄉(xiāng)農(nóng)會(huì)，264個(gè)村農(nóng)會(huì)相繼建立，會(huì)員約達(dá)6.6萬(wàn)人；民兵發(fā)展到3000多人，黨員發(fā)展到782人；改造政權(quán)327個(gè)；訓(xùn)練積極分子1338名，提拔區(qū)干部2人，鄉(xiāng)干部69人，村干部794人。

同年10月，雪商亳縣貫徹執(zhí)行《中國(guó)土地法大綱》，進(jìn)行土改復(fù)查。同時(shí)，調(diào)整區(qū)劃，劃大區(qū)為小區(qū)，撤銷鄉(xiāng)級(jí)機(jī)構(gòu)，建立大行政村。全縣劃為12個(gè)區(qū)，263個(gè)行政村，控制人口36.8萬(wàn)人，土地103萬(wàn)畝。

1947年冬，殷效舜任中共商（丘）南縣委書記兼縣長(zhǎng)和支隊(duì)政委。11月18日，殷效舜在杜集東喬集召開(kāi)縣委第一次擴(kuò)大會(huì)議，傳達(dá)地委指示，明確商南縣的主要任務(wù)是向商丘方向發(fā)展，擴(kuò)大解放區(qū)，確保雪商亳、夏邑兩縣的土改運(yùn)動(dòng)順利進(jìn)行。他分析了商南的敵情，與大家共同確定了以武裝斗爭(zhēng)為主、尋找戰(zhàn)機(jī)打殲滅戰(zhàn)的對(duì)敵斗爭(zhēng)原則。會(huì)上，確定他和支隊(duì)長(zhǎng)楊瑞湖負(fù)責(zé)武裝工作。

1948年春，殷效舜帶領(lǐng)縣區(qū)主要領(lǐng)導(dǎo)干部參加地委在裴橋的整黨。3月，他指導(dǎo)全縣進(jìn)行整黨，主持了吳樓召開(kāi)的縣委擴(kuò)大會(huì)議，和大家一起總結(jié)了以往工作中的經(jīng)驗(yàn)教訓(xùn)，檢查出工作中的急性病和土改中嚴(yán)重違犯政策、脫離群眾等行為，使大家提高了階級(jí)覺(jué)悟和政策水平，加強(qiáng)了組織性紀(jì)律性。會(huì)后，一方面由縣政府出示布告，同時(shí)組織干部全面宣傳貫徹中共中央關(guān)于土地改革和新區(qū)政策的一系列指示，號(hào)召土改區(qū)要堅(jiān)決保護(hù)農(nóng)民已得利益，切實(shí)保護(hù)中農(nóng)和工商業(yè)者的利益；要求新區(qū)一律執(zhí)行減租減息政策等。縣委成員分到各區(qū)協(xié)助工作，帶頭執(zhí)行政策。全縣呈現(xiàn)出搞好生產(chǎn)、支援戰(zhàn)爭(zhēng)的繁忙景象。

5月、6月，商南支隊(duì)武裝配合主力連戰(zhàn)告捷。8月下旬，殷效舜指揮商南支隊(duì)與杜集、店集區(qū)隊(duì)在雷樓、杜集伏擊重創(chuàng)敵新五軍的搶糧隊(duì)200多人馬，余部落荒而逃，使駐守商丘的國(guó)民黨新五軍再不敢輕易到這一帶搶糧。11月2日，殷效舜協(xié)同分區(qū)參謀長(zhǎng)薛和在藺廟指揮阻擊國(guó)民黨孫元良兵團(tuán)大批人馬，敵不摸虛實(shí)，構(gòu)筑臨時(shí)工事，發(fā)射重型火力，遲滯一晝夜，直到第二天才敢開(kāi)拔。

淮海戰(zhàn)役打響后，商南地區(qū)全境解放。殷效舜遵照豫皖蘇軍區(qū)政委宋任窮直接指示，11月10日，率縣委、縣政府進(jìn)駐馬牧集，召開(kāi)縣委會(huì)議，研究部署保護(hù)境內(nèi)隴海鐵路線段，清剿國(guó)民黨殘余勢(shì)力，大力支援前線，成立戰(zhàn)勤指揮部和支前總隊(duì)、糧草站等支前組織。之后，他又在谷熟集具體落實(shí)全縣支前任務(wù)，各區(qū)鄉(xiāng)分別建立戰(zhàn)勤小組。其間，殷效舜深入到車站和附近三四里地的村莊調(diào)查，拜訪鐵路工人和村民，制定出鐵路工人、村民負(fù)責(zé)保護(hù)鐵路的辦法。并簽發(fā)布告，號(hào)召國(guó)民黨殘兵回歸人民懷抱，分化和瓦解殘余敵對(duì)勢(shì)力。原國(guó)民黨馬牧鎮(zhèn)中隊(duì)長(zhǎng)李心廣、平臺(tái)鎮(zhèn)鎮(zhèn)長(zhǎng)索廣善反正，分別被重新任命為馬牧、平臺(tái)鎮(zhèn)副鎮(zhèn)長(zhǎng)。殷效舜領(lǐng)導(dǎo)的商南縣出色地完成了上級(jí)黨組織交付的歷史使命。支前第一批就出動(dòng)擔(dān)架700多副，大車200多輛，民工5000多人，支援前方糧面100萬(wàn)斤。此后，動(dòng)員的人力、物力更難以數(shù)計(jì)。

1949年2月，商南縣恢復(fù)原建制，殷效舜任中共商丘縣委第一書記。1951年1月，殷效舜任中共商丘地委委員，5月任商丘專署副專員，11月任商丘專署專員。1953年6月任中共商丘地委第二書記兼商丘專署專員。開(kāi)、商合并后，1960年任中共開(kāi)封地委書記處書記兼開(kāi)封專署專員。1961年12月，開(kāi)商分家殷效舜回任中共商丘地委書記處書記，兼商丘專署專員。1963年1月，調(diào)任河南省供銷社副主任，1978年任供銷社顧問(wèn)，1982年12月離休。1992年4月12日，在鄭州病逝，享年80歲。