許9歲喪父，家貧無以為生，隨母寄居在鎮(zhèn)江舅父家讀書。兩淮中學畢業(yè)后，以優(yōu)異成績考入 復旦大學。許心武自小生活在長江岸邊深知水的利害——既可危害人類，也可造福人類。他立志獻身于祖國的水利事業(yè)。

民國4年（1915）他考入河海工程�？茖W校特科班，師從著名水利專家李儀祉。民國8年畢業(yè)，就職于天津順直水利委員會，曾參與籌建盧溝橋水文站，在永定河上進行水庫勘查。民國12年又留學美國加州大學柏克萊分校，旋轉入 依阿華大學研究院，學習水利工程，民國15年獲碩士學位。留美時許家生活極其艱辛，他勉強度日，將自己的勤工儉學所得寄作家用。為了拯救滿目瘡痍的祖國，許心武在美國加入了國民黨，企圖找到一條民族復興的道路，誰知這條路給走錯了。解放前夕，許之所以沒有去臺灣謀職，是因為他認識了中國共產黨，確信中國共產黨能振興中華。

回國后（民國16年）在南京任職于中央黨部，并在國民政府負責擬訂華北及淮河、黃河等水利機構的組織和工作方案，組織華北水利委員會、導淮委員會及 黃河水利委員會。

1931年初夏，全國發(fā)生了千年一遇的大水災，讓處于多事之秋的中華民族幾近于“九死之絕境”。此次水災波及皖、鄂、豫、魯、蘇、贛、浙、閩、粵、川、冀、遼、吉、黑、熱等16省，災民數以億數，重災人口至少在5000萬以上，經濟損失達數十億元（其時全國國民生產總值約為97億元）。面對這樣的災情，作為以水利為職業(yè)的許心武更是憂心如焚、寢食難安。他每天奔波在千里黃河岸邊，工作長達13-14個小時之久，白天深入災區(qū)測勘水情，夜晚伏案編寫導黃方案。許心武的獻身精神受到了各界人士的贊賞。許任 黃河水利委員會委員長期間，招收了一個名叫 黃萬里的有為青年做學生。 黃萬里為著名愛國民主人士黃炎培的兒子。在黃選修水利專業(yè)時，炎培先生對其說，“中國有史以來，從來沒有農民對不起統(tǒng)治者，只有統(tǒng)治者對不起農民”。他希望兒子“將來好好報效農民，一輩子為農民服務” 。面對江河泛濫給廣大農民造成的災難，萬里先生哀民之痛，“改學水利，以拯農為己志”。

許心武十分喜愛像 黃萬里這樣的愛國青年。他對萬里說：這次大水后調查全國水利工程師所長專業(yè)，竟皆長于土木工程之設計施工，沒有一個懂得水文學的。而不通水文學等于未入水利之門，只是能設計施工罷了。在許心武的潛心教導下， 黃萬里以自然地理為基礎，認真研習了水文學，成了一名著名的水利專家。為盡快使一批年輕的水利人才脫穎而出，許心武常常廢寢忘食，他從治淮入手，整理導淮圖案，編寫導淮工程計劃巨冊。該書搜集有清末民初數十年間前人所做的有關導淮測量數據、規(guī)劃，成了水利專業(yè)學習的優(yōu)秀教科書。

民國20年許心武奉調到開封出任 河南大學校長，掌校期間，他選取《禮記·大學》中的首句“ 明德，新民，止于至善”作為校訓，足見其立志高遠。為將 河南大學建成國內一流的名校，許上任后努力擴充建設建工學院，設課程完備的土建系，辦水工試驗廠、材料試驗廠；遍聘知名教授，并親自兼課；鼓勵師生們樹立良好的學風，提高學術水準……。當時盡管中原大地戰(zhàn)爭頻仍， 河南大學上課時數為全國之冠。教育部考績， 河大名列第二，綜合評估 河大以優(yōu)異的成績被評為全國國立大學第6名，在抗戰(zhàn)時高校教育史上留下了值得自豪的一頁。軟件建設使 河大進入了全國的先進行列，硬件建設許心武校長也是殫精竭慮，為河大人留下了一筆筆寶貴的物質財富。1931年時任校長的許心武先生提出建 河大大禮堂的動議，自1931年11月20日破土動工至1934年12月28日落成，歷時三載，用資20萬元，這在當時是個很了不起的數字。當時 河大師生共500人，而大禮堂可容納3000人之多，由此足見許心武的魄力。大禮堂規(guī)模之宏大，在當時全國高校中首屈一指，其設計之精美、工程進度之快、質量之高，也為當時國內所罕見，被歷屆校友和河南人稱為東方的“埃菲爾”。大禮堂建成后，成了開封抗日愛國志士的活動據點，冼星�！吧虾� 救亡演劇隊”及河大學生歌詠隊的表演舞臺， 東北大學流亡學生遮風避雨的棲身之地……大禮堂至今仍是當今河南所有高校中第一處“省寶”古跡，河大人的人文精魄。許心武更成了 河南大學永久的楷模和精神偶像。許心武非教育科班出身，由于執(zhí)著的追求、不懈的奮斗一時倒成了蜚聲海內外的教育大家，這是他始料未及的。

民國22年（1933）許心武重操舊業(yè)，改任 黃河水利委員會副總工程師，旋接李儀祉職任總工程師。當年黃河、 長江、珠江等境內骨干河流又鬧水災，災情如國民黨中央在《為賑濟水災告全國同胞書》中所哀嘆的那樣：“湯湯江河，滔天未已。茫茫禹跡，沉沒堪虞。死者盡葬魚腹，生者淪為餓殍。斯誠國家之不幸，民族之奇災！”許心武正是在這種狀況下臨危受命的，他上任伊始即主持堵口工程，率工程技術人員擬訂黃河下游堤防善后規(guī)章和計劃，在豫、魯、冀三省實施堵口及修壩修堤工程；同時協(xié)助李儀祉全力轉入黃河長期治理與發(fā)展的基本工作，籌建測量隊、水文站等機構。民國23年9月導淮工程處成立，江蘇省政府借調許心武為該處處長，負責工程全盤工作。民國24年3月至8月許曾回開封黃委會協(xié)助李儀祉會長工作。之后則專任導淮工程處長，以疏浚淮河故道為宗旨，領導挖河及閘壩施工。由運河楊莊到套子口入海處全長165公里，疏浚工程浩大。海口切灘由包商承辦，其余則動用民工，多達24萬人，歷時2年半，至民國26年抗日戰(zhàn)爭爆發(fā)時，導淮工程初步計劃全部完工。民國24年黃河董莊決口、民國27年花園口決口，蘇北均因有導淮工程而災害大為減輕�？箲�(zhàn)期間，許曾應聘勘察與規(guī)劃川、滇兩省農田水利， 嘉陵江水道以及大渡河、馬邊河水電工程。民國28年許任教育部教科書編委會主任，創(chuàng)辦《學生之友》雜志，后又被聘為教育部督學。民國33年任 中央大學水利系教授兼系主任，翌年奉命考察歐美各國，民國37年春回上海任 復旦大學教授。

解放后，許心武終于找到了共產黨，投入到人民的懷抱，實現了振興中華的夢想，在黨組織的安排下，他先后在華東水利部、華東 設計院、上海市設計院任工程師。年邁的許心武更知時光的寶貴，無論在什么工作崗位上都能兢兢業(yè)業(yè)、孜孜以求，以科學態(tài)度對待科研、施工工作，展現出愛國知識分子爭先恐后的工作姿態(tài)和吃苦在先、自甘奉獻的高尚品德，直至1965年退休。值得一提的是，1955年6月，華東設計院為 江南造船廠船裝、電鍍、船體三車間進行工程地質詳勘，陸汝星為工程負責人，許心武為審核人，詳勘中除按一般規(guī)定布置取土鉆孔外，每個車間處做了兩個淺層載荷試驗，還各取地下水樣作對混凝土侵蝕性試驗，確定的天然地容容許承載力為10噸/平方米，比傳統(tǒng)的老“8噸”有所提高。該項工程勘察按蘇聯(lián)勘察規(guī)范進行資料整理、繪制地質剖面圖，編寫文字報告，提出了結論與建議，是“一五”期間上海市最早符合勘察規(guī)范要求的一份地質勘察報告，當時起了示范作用。

許心武的妻子是傳統(tǒng)的中國女性。兒子 許靖華為著名的地質學家，現任瑞士聯(lián)邦理工大學地球科學院院長、地質研究所所長，并在金屬資源、石油資源和水資源等領域有多項重要的應用成果。1985年成為中國科學院榮譽教授，1986年成為美國科學院外籍院士，1987年當選為地中�？茖W院院士，是地質學界兩項最高榮譽的獲得者（ 美國地質學會授予的彭羅斯地質獎、 倫敦地質學會授予的烏拉斯坦勛章）。許的女兒 許麗霞現任美國西伊州大學教授。兄妹二人均關心祖國社會主義現代化建設，曾多次回國從事學術教學活動。