國(guó)內(nèi)“濟(jì)南慘案”發(fā)生后，回上海組織反日斗爭(zhēng)被法租界巡捕房逮捕，由何香凝全力營(yíng)救脫險(xiǎn)后又回到日本。在日期間結(jié)識(shí)楊虎城，同時(shí)于馮乃超、童蒙生、江隆基一起創(chuàng)辦共進(jìn)會(huì)、時(shí)代工程社等共產(chǎn)黨外圍組織，在銀座參加反帝示威游行遭捕�；貒�(guó)后，任17路軍教導(dǎo)隊(duì)政治教官。

1930年夏，江伯玉前往上海與地下黨人開(kāi)辦了“申江書店”，編輯出版了《中國(guó)近代史》、《馬列主義批判者的批判》等紅色書籍。1931年回到西安任西安高中育校長(zhǎng)，暗地支持學(xué)生抗日救亡運(yùn)動(dòng)。

1936年回家鄉(xiāng)任西鄉(xiāng)簡(jiǎn)易師范，任校長(zhǎng)時(shí)，秘密幫助共產(chǎn)黨人，并將自己20多位學(xué)生送上革命道路。

1942年后，任西安師范、西安私立樂(lè)育中學(xué)校長(zhǎng)并創(chuàng)辦了樂(lè)育中學(xué)西鄉(xiāng)分校。落實(shí)政策后，相繼任縣人大副主任、政協(xié)副主席。