早年就讀于江蘇溧陽私立同濟(jì)中學(xué)、江蘇省立常州中學(xué)（今常州高級中學(xué)）、上海復(fù)旦實(shí)驗(yàn)中學(xué)。后七十年代視察中的陶魯笳入南京中央大學(xué)旁聽。其間曾回鄉(xiāng)任小學(xué)教員。1936年夏赴河北石家莊扶輪學(xué)校任教，并兼《北光》雜志社編輯。不久參加中華民族解放先鋒隊(duì)，任中華民族解放先鋒隊(duì)石家莊總隊(duì)總隊(duì)長。同年10月加入中國共產(chǎn)黨。1937年2月任中共石家莊市委宣傳部部長。

抗日戰(zhàn)爭爆發(fā)后，任中共晉冀豫區(qū)委員會組織部干事、組織科科長。1940年任昔陽、平定、和順三縣中共中心縣委書記。1941年起，先后任中共太行第二地委組織部部長、地委副書記兼軍分區(qū)副政委。1945年3月任中共太行第五地委書記兼軍分區(qū)政委。

1947年7月起任中共太行區(qū)委員會組織部部長、副書記。1949年2月任中共太行區(qū)委員會書記兼太行軍區(qū)政委。為鞏固發(fā)展太行革命根據(jù)地作出了貢獻(xiàn)。

1949年9月后任中共山西省委常委兼宣傳部部長、省委書記、省委第一書記。1953年6月任中共山西省委第一書記兼山西省軍區(qū)政委。1958年5月，在中共八屆二次會議上，被補(bǔ)選為中央候補(bǔ)委員。1960年10月任中共中央華北局書記。1964年3月，陶魯笳最早向毛澤東匯報(bào)了大寨和陳永貴的事跡，在毛澤東提倡“農(nóng)業(yè)學(xué)大寨”運(yùn)動中，起到了重要作用。1965年任國家經(jīng)濟(jì)委員會第一副主任兼中共中央工業(yè)交通工作部政治部主任。1973年7月起，任國防科學(xué)技術(shù)委員會主任、政委。同年8月當(dāng)選為中共第十屆中央委員。1985年2月任國家體制改革委員會顧問。1988年4月當(dāng)選為中國人民政治協(xié)商會議第七屆全國委員會常務(wù)委員。是第一屆、第三屆全國人大代表。

2011年5月21日5時(shí)20分在京逝世，享年94歲。