民國(guó)29年(1940年)夏，二龍鄉(xiāng)建立了抗日民主政府，白之義任鄉(xiāng)民兵中隊(duì)長(zhǎng)，經(jīng)穆林、蘇楓(女)兩人介紹，加入中國(guó)共產(chǎn)黨。不久任二龍鄉(xiāng)農(nóng)抗協(xié)會(huì)主任，兼鄉(xiāng)民兵大隊(duì)長(zhǎng)。民國(guó)31年秋，上級(jí)指示，成立二龍鄉(xiāng)回民清真連，白之義任營(yíng)教導(dǎo)員。次年，二龍成立回民自治區(qū)，白之義任區(qū)委書記。國(guó)民黨大隊(duì)長(zhǎng)王華錦，經(jīng)常出入于二龍鄉(xiāng)一帶抓丁、要糧，危害人民的生命財(cái)產(chǎn)。游擊隊(duì)大隊(duì)長(zhǎng)沙大本把王華錦的爪牙王國(guó)輝抓捕，送到定遠(yuǎn)縣政府住地——老尹董槍決。王國(guó)輝哥哥王國(guó)棟認(rèn)為是白之義密告所害，懷恨在心，于民國(guó)34年11月13日，將白之義三哥白之仁夫婦及兒媳、孫子和弟弟白之武等5人暗殺。家中遭受如此慘案并沒有動(dòng)搖白之義革命到底的決心，他率領(lǐng)清真連配合新四軍主力轉(zhuǎn)戰(zhàn)全椒、滁縣等地，參加周家崗、珠龍橋等戰(zhàn)斗10余次。

民國(guó)35年(1946年)4月，新四軍奉命北撤時(shí)，白之義率清真連隨軍轉(zhuǎn)移到泗縣洪澤湖一帶活動(dòng)，途中與國(guó)民黨軍隊(duì)發(fā)生遭遇戰(zhàn)，白之義膝蓋骨中彈受傷，因無藥治療，感染犧牲。