1911年隨堂兄李笏山就讀于湖南省立第二師范，后入家鄉(xiāng)寶慶中學(xué)讀書。

1918年8月，在李笏山資助下去法國勤工儉學(xué)，在京辦完手續(xù)后，先赴保定留法預(yù)備班學(xué)習(xí)，此間認(rèn)識了到校演講的毛澤東和蔡和森。

1919年10月31日，李林和李維漢、李富春等150名青年，在上海乘寶勒茄號郵船去法國留學(xué)。他們在巴黎住在一間簡陋的帳篷里，經(jīng)常利用候工的機(jī)會學(xué)法文、看書報(bào)，接觸馬克思主義。三個月后，李林等人分至哈佛柳工廠做工。

1922年6月3日，由周恩來、趙世炎、李維漢發(fā)起成立旅歐少年共產(chǎn)黨（后改名中國社會主義青年團(tuán)旅歐支部），他是“少共”的骨干。

1924年9月，李林、聶榮臻等27人離開巴黎到蘇聯(lián)莫斯科東方大學(xué)學(xué)習(xí)軍事，在聶榮臻等幫助下，他加入了中國共產(chǎn)黨。

1925年8月，從蘇聯(lián)回國，被派到馮玉祥的西北軍工作，擔(dān)任國民革命軍第三軍第三混成旅第一團(tuán)副團(tuán)長。在此，他積極發(fā)展黨團(tuán)組織，敦促馮玉祥響應(yīng)北伐。

1927年3月，他到西安擔(dān)任中山軍事學(xué)校副校長兼教務(wù)主任，該校實(shí)質(zhì)上是我黨領(lǐng)導(dǎo)的軍政干部學(xué)校。

1927年7月15日以后，蔣汪合流，全國一片白色恐怖氣氛，大肆屠殺共產(chǎn)黨人。中共陜西省委指示他迅速轉(zhuǎn)移，他帶著妻子吳碧云和女兒白華化裝成商人輾轉(zhuǎn)來到上海，以人力車夫?yàn)檠谧o(hù)，深入工廠和居民區(qū)宣傳共產(chǎn)主義，吳碧云擔(dān)任地下交通員。他們經(jīng)常露宿街頭，飽嘗艱辛。

1927年10月，中共江蘇省委派他率23名地下黨員到蘇北開展黨的工作。分到阜寧的有他們8人，他們同本地黨員一起發(fā)展黨的組織。11月，成立中共江北特別委員會，任命他為書記。他在阜寧發(fā)展了一批黨員，并在阜寧城建立起第一個黨支部。

1928年1月成立了首屆中共阜寧縣委員會，他兼任書記，地下黨縣委成立后，積極開展農(nóng)民運(yùn)動與工人運(yùn)動，開展反對封建勢力的斗爭。

1928年8月，他被調(diào)回省委，任中共上海市閘北區(qū)委組織部長。

1930年冬，黨中央派他到中央蘇區(qū)工作，帶著妻子女兒來到閩西蘇區(qū)。

1931年3月，黨在閩西虎崗創(chuàng)辦彭?xiàng)钴娛聦W(xué)校（為紀(jì)念彭湃、楊殷二烈士）任副校長兼教育長。黨的六屆四中全會上，王明篡奪了領(lǐng)導(dǎo)權(quán)，積極推行“左”傾路線。彭?xiàng)钴娛聦W(xué)校主要領(lǐng)導(dǎo)人肖勁光、李林等人團(tuán)結(jié)一致，堅(jiān)決抵制了王明路線。

1931年6月，軍校隨紅軍由虎崗向白沙轉(zhuǎn)移。28日，在廬豐至蘭家渡一帶和鐘紹奎匪軍遭遇，雙方擺開戰(zhàn)場。他一直在前沿陣地指揮作戰(zhàn)，29日上午，敵人向廬豐街頭發(fā)起猛烈沖擊，軍校第一大隊(duì)被沖散，伍修權(quán)胸部受傷。他一邊組織搶救，一邊指揮還擊。在我炮火猛烈打擊下，鐘部死傷慘重，狼狽敗退。他身先士卒，率部追擊。不料，一名頑匪隱蔽在一塊大石頭后面開槍射擊，當(dāng)即中彈犧牲。彭?xiàng)钴娛聦W(xué)校和閩西人民舉行隆重的追悼會，沉痛悼念李林烈士。