許9歲喪父，家貧無以為生，隨母寄居在鎮(zhèn)江舅父家讀書。兩淮中學(xué)畢業(yè)后，以優(yōu)異成績考入 復(fù)旦大學(xué)。許心武自小生活在長江岸邊深知水的利害——既可危害人類，也可造福人類。他立志獻(xiàn)身于祖國的水利事業(yè)。

民國4年（1915）他考入河海工程專科學(xué)校特科班，師從著名水利專家李儀祉。民國8年畢業(yè)，就職于天津順直水利委員會，曾參與籌建盧溝橋水文站，在永定河上進(jìn)行水庫勘查。民國12年又留學(xué)美國加州大學(xué)柏克萊分校，旋轉(zhuǎn)入 依阿華大學(xué)研究院，學(xué)習(xí)水利工程，民國15年獲碩士學(xué)位。留美時許家生活極其艱辛，他勉強(qiáng)度日，將自己的勤工儉學(xué)所得寄作家用。為了拯救滿目瘡痍的祖國，許心武在美國加入了國民黨，企圖找到一條民族復(fù)興的道路，誰知這條路給走錯了。解放前夕，許之所以沒有去臺灣謀職，是因?yàn)樗�認(rèn)識了中國共產(chǎn)黨，確信中國共產(chǎn)黨能振興中華。

回國后（民國16年）在南京任職于中央黨部，并在國民政府負(fù)責(zé)擬訂華北及淮河、黃河等水利機(jī)構(gòu)的組織和工作方案，組織華北水利委員會、導(dǎo)淮委員會及 黃河水利委員會。

1931年初夏，全國發(fā)生了千年一遇的大水災(zāi)，讓處于多事之秋的中華民族幾近于“九死之絕境”。此次水災(zāi)波及皖、鄂、豫、魯、蘇、贛、浙、閩、粵、川、冀、遼、吉、黑、熱等16省，災(zāi)民數(shù)以億數(shù)，重災(zāi)人口至少在5000萬以上，經(jīng)濟(jì)損失達(dá)數(shù)十億元（其時全國國民生產(chǎn)總值約為97億元）。面對這樣的災(zāi)情，作為以水利為職業(yè)的許心武更是憂心如焚、寢食難安。他每天奔波在千里黃河岸邊，工作長達(dá)13-14個小時之久，白天深入災(zāi)區(qū)測勘水情，夜晚伏案編寫導(dǎo)黃方案。許心武的獻(xiàn)身精神受到了各界人士的贊賞。許任 黃河水利委員會委員長期間，招收了一個名叫 黃萬里的有為青年做學(xué)生。 黃萬里為著名愛國民主人士黃炎培的兒子。在黃選修水利專業(yè)時，炎培先生對其說，“中國有史以來，從來沒有農(nóng)民對不起統(tǒng)治者，只有統(tǒng)治者對不起農(nóng)民”。他希望兒子“將來好好報效農(nóng)民，一輩子為農(nóng)民服務(wù)” 。面對江河泛濫給廣大農(nóng)民造成的災(zāi)難，萬里先生哀民之痛，“改學(xué)水利，以拯農(nóng)為己志”。

許心武十分喜愛像 黃萬里這樣的愛國青年。他對萬里說：這次大水后調(diào)查全國水利工程師所長專業(yè)，竟皆長于土木工程之設(shè)計施工，沒有一個懂得水文學(xué)的。而不通水文學(xué)等于未入水利之門，只是能設(shè)計施工罷了。在許心武的潛心教導(dǎo)下， 黃萬里以自然地理為基礎(chǔ)，認(rèn)真研習(xí)了水文學(xué)，成了一名著名的水利專家。為盡快使一批年輕的水利人才脫穎而出，許心武常常廢寢忘食，他從治淮入手，整理導(dǎo)淮圖案，編寫導(dǎo)淮工程計劃巨冊。該書搜集有清末民初數(shù)十年間前人所做的有關(guān)導(dǎo)淮測量數(shù)據(jù)、規(guī)劃，成了水利專業(yè)學(xué)習(xí)的優(yōu)秀教科書。

民國20年許心武奉調(diào)到開封出任 河南大學(xué)校長，掌校期間，他選取《禮記·大學(xué)》中的首句“ 明德，新民，止于至善”作為校訓(xùn)，足見其立志高遠(yuǎn)。為將 河南大學(xué)建成國內(nèi)一流的名校，許上任后努力擴(kuò)充建設(shè)建工學(xué)院，設(shè)課程完備的土建系，辦水工試驗(yàn)廠、材料試驗(yàn)廠；遍聘知名教授，并親自兼課；鼓勵師生們樹立良好的學(xué)風(fēng)，提高學(xué)術(shù)水準(zhǔn)……。當(dāng)時盡管中原大地戰(zhàn)爭頻仍， 河南大學(xué)上課時數(shù)為全國之冠。教育部考績， 河大名列第二，綜合評估 河大以優(yōu)異的成績被評為全國國立大學(xué)第6名，在抗戰(zhàn)時高校教育史上留下了值得自豪的一頁。軟件建設(shè)使 河大進(jìn)入了全國的先進(jìn)行列，硬件建設(shè)許心武校長也是殫精竭慮，為河大人留下了一筆筆寶貴的物質(zhì)財富。1931年時任校長的許心武先生提出建 河大大禮堂的動議，自1931年11月20日破土動工至1934年12月28日落成，歷時三載，用資20萬元，這在當(dāng)時是個很了不起的數(shù)字。當(dāng)時 河大師生共500人，而大禮堂可容納3000人之多，由此足見許心武的魄力。大禮堂規(guī)模之宏大，在當(dāng)時全國高校中首屈一指，其設(shè)計之精美、工程進(jìn)度之快、質(zhì)量之高，也為當(dāng)時國內(nèi)所罕見，被歷屆校友和河南人稱為東方的“埃菲爾”。大禮堂建成后，成了開封抗日愛國志士的活動據(jù)點(diǎn)，冼星�！吧虾� 救亡演劇隊(duì)”及河大學(xué)生歌詠隊(duì)的表演舞臺， 東北大學(xué)流亡學(xué)生遮風(fēng)避雨的棲身之地……大禮堂至今仍是當(dāng)今河南所有高校中第一處“省寶”古跡，河大人的人文精魄。許心武更成了 河南大學(xué)永久的楷模和精神偶像。許心武非教育科班出身，由于執(zhí)著的追求、不懈的奮斗一時倒成了蜚聲海內(nèi)外的教育大家，這是他始料未及的。

民國22年（1933）許心武重操舊業(yè)，改任 黃河水利委員會副總工程師，旋接李儀祉職任總工程師。當(dāng)年黃河、 長江、珠江等境內(nèi)骨干河流又鬧水災(zāi)，災(zāi)情如國民黨中央在《為賑濟(jì)水災(zāi)告全國同胞書》中所哀嘆的那樣：“湯湯江河，滔天未已。茫茫禹跡，沉沒堪虞。死者盡葬魚腹，生者淪為餓殍。斯誠國家之不幸，民族之奇災(zāi)！”許心武正是在這種狀況下臨危受命的，他上任伊始即主持堵口工程，率工程技術(shù)人員擬訂黃河下游堤防善后規(guī)章和計劃，在豫、魯、冀三省實(shí)施堵口及修壩修堤工程；同時協(xié)助李儀祉全力轉(zhuǎn)入黃河長期治理與發(fā)展的基本工作，籌建測量隊(duì)、水文站等機(jī)構(gòu)。民國23年9月導(dǎo)淮工程處成立，江蘇省政府借調(diào)許心武為該處處長，負(fù)責(zé)工程全盤工作。民國24年3月至8月許曾回開封黃委會協(xié)助李儀祉會長工作。之后則專任導(dǎo)淮工程處長，以疏浚淮河故道為宗旨，領(lǐng)導(dǎo)挖河及閘壩施工。由運(yùn)河楊莊到套子口入海處全長165公里，疏浚工程浩大。海口切灘由包商承辦，其余則動用民工，多達(dá)24萬人，歷時2年半，至民國26年抗日戰(zhàn)爭爆發(fā)時，導(dǎo)淮工程初步計劃全部完工。民國24年黃河董莊決口、民國27年花園口決口，蘇北均因有導(dǎo)淮工程而災(zāi)害大為減輕�？箲�(zhàn)期間，許曾應(yīng)聘勘察與規(guī)劃川、滇兩省農(nóng)田水利， 嘉陵江水道以及大渡河、馬邊河水電工程。民國28年許任教育部教科書編委會主任，創(chuàng)辦《學(xué)生之友》雜志，后又被聘為教育部督學(xué)。民國33年任 中央大學(xué)水利系教授兼系主任，翌年奉命考察歐美各國，民國37年春回上海任 復(fù)旦大學(xué)教授。

解放后，許心武終于找到了共產(chǎn)黨，投入到人民的懷抱，實(shí)現(xiàn)了振興中華的夢想，在黨組織的安排下，他先后在華東水利部、華東 設(shè)計院、上海市設(shè)計院任工程師。年邁的許心武更知時光的寶貴，無論在什么工作崗位上都能兢兢業(yè)業(yè)、孜孜以求，以科學(xué)態(tài)度對待科研、施工工作，展現(xiàn)出愛國知識分子爭先恐后的工作姿態(tài)和吃苦在先、自甘奉獻(xiàn)的高尚品德，直至1965年退休。值得一提的是，1955年6月，華東設(shè)計院為 江南造船廠船裝、電鍍、船體三車間進(jìn)行工程地質(zhì)詳勘，陸汝星為工程負(fù)責(zé)人，許心武為審核人，詳勘中除按一般規(guī)定布置取土鉆孔外，每個車間處做了兩個淺層載荷試驗(yàn)，還各取地下水樣作對混凝土侵蝕性試驗(yàn)，確定的天然地容容許承載力為10噸/平方米，比傳統(tǒng)的老“8噸”有所提高。該項(xiàng)工程勘察按蘇聯(lián)勘察規(guī)范進(jìn)行資料整理、繪制地質(zhì)剖面圖，編寫文字報告，提出了結(jié)論與建議，是“一五”期間上海市最早符合勘察規(guī)范要求的一份地質(zhì)勘察報告，當(dāng)時起了示范作用。

許心武的妻子是傳統(tǒng)的中國女性。兒子 許靖華為著名的地質(zhì)學(xué)家，現(xiàn)任瑞士聯(lián)邦理工大學(xué)地球科學(xué)院院長、地質(zhì)研究所所長，并在金屬資源、石油資源和水資源等領(lǐng)域有多項(xiàng)重要的應(yīng)用成果。1985年成為中國科學(xué)院榮譽(yù)教授，1986年成為美國科學(xué)院外籍院士，1987年當(dāng)選為地中�？茖W(xué)院院士，是地質(zhì)學(xué)界兩項(xiàng)最高榮譽(yù)的獲得者（ 美國地質(zhì)學(xué)會授予的彭羅斯地質(zhì)獎、 倫敦地質(zhì)學(xué)會授予的烏拉斯坦勛章）。許的女兒 許麗霞現(xiàn)任美國西伊州大學(xué)教授。兄妹二人均關(guān)心祖國社會主義現(xiàn)代化建設(shè)，曾多次回國從事學(xué)術(shù)教學(xué)活動。