1920年，馮玉祥入陜西，設立11師殘廢軍人工廠廠長。后來石友三入高教團，改任許長林為廠長。 1922年馮任河南督軍，許任督署參謀處參謀。年末，馮調任陸軍檢閱使，許任檢閱使署副官。1924年任副團長，隸石友三部，南口大戰(zhàn)失敗后，石友三部被晉軍改編，林任副旅長。

1926年9月，馮玉祥在五原誓師，組建國民聯(lián)軍，石、許等人脫離晉軍，重歸馮部，參加了西安解圍的戰(zhàn)斗。

1927年5月1日 國民聯(lián)軍改編為國民革命軍第二集團軍，許任第1方面軍（孫良誠）第5軍（石友三）第9師師長。

1928年秋，石部駐防河南南陽地區(qū)。編遣會議后，1929年1月第5軍縮編為陸軍第二十四師，石任師長，轄三個步兵旅，許任24師71旅旅長，

1929年5月，韓復榘、石友三發(fā)動叛馮投蔣的“甘棠西進”。石友三在河南叛馮時，石友三將不愿跟他走的過之莊、許長林、李殿林3個旅長和部分團長，以調動為名，騙入一節(jié)頭等臥車內，加派衛(wèi)隊監(jiān)視，從南陽押至鄭州，宣布解甲削職。

1930年中原大戰(zhàn)之后，他加入宋哲元的29軍，任團長，駐防冀東。1936年12月12日授少將軍銜。

七七事變時任第29軍37師副師長，駐守北平。事變后率部南下，一路參與了一系列抗日戰(zhàn)役。1939年1月，任59軍180師師長。1945年1月任77軍179師師長，1948年8月任77軍副軍長。11月，何基灃、張克俠率59軍、77軍大部起義，許長林拒絕參加起義，與馮治安、李文田、陳繼淹率殘部南撤，1949年10月，與陳繼淹一起被解放軍俘虜，1960年11月28日，被特赦，1969年12月因病去世，終年74歲。