抗戰(zhàn)爆發(fā)后，放棄教職，投身民族救亡工作。初任華北特派員，負責民眾組訓工作；北平淪陷后，游擊山西，進行抗日。1938年7月南下漢口，任國民黨漢口特別市黨部主任委員。1941年4月25日，在漢口市特一區(qū)(舊德租界)被敵偽拘捕。汪精衛(wèi)令解赴南京，欲強其加入偽府工作。林尹以死自誓，三次被綁赴刑場以執(zhí)行槍決進行威脅，終不屈服。后囚禁上海愚園864號。國民黨組織部長朱家驊電上海蔣伯誠，“不惜巨資予以營救”。10月，得以脫險赴香港；12月飛往重慶，重理舊業(yè)，任四川大學文科教授。

抗戰(zhàn)勝利后，奉命任國民黨浙滬黨務特派員。入臺后，撰述《中國學術思想大綱》一書，被補為第一屆“國大”代表。1955年后，先后執(zhí)教臺灣省立師范大學、政治大學、東吳大學、中國文化學院、淡江大學、輔仁大學，被推舉為“中國文字學會”理事長、“孔孟學會”常務理事、“中華文學協(xié)會”會長，并任《中文大辭典》編纂委員會副主委、臺灣師范大學國文研究所“常用國字編纂處”主任委員、“常用國字標準字體研訂小組”顧問，“重編國語辭典指導委員會”委員、“中國百科全書”編纂委員等；曾赴美國、西班牙宣揚孔孟之道，參加國際漢學會議，發(fā)表論文《說文與釋名聲訓比較研究》。韓國建國大學授予名譽文學博士學位。1983年6月8日病逝于臺北榮民醫(yī)院。

擅長文字訓詁，博通經史，兼及諸子，尤明音韻之理。著有《中國聲韻學通論》、《周禮今注今釋》、《訓詁學概要》、《景伊詩鈔》等及論文百余篇；編有《大學字典》、《兩漢三國文匯》；與人合編《中文大辭典》、《國民辭典》等。