1960年初，他參與紅旗渠工程設(shè)計(jì)。為了盡快繪制出紅旗渠施工藍(lán)圖，確保工程順利動(dòng)工，他和其他工程技術(shù)人員一起，不畏艱險(xiǎn)，爬山越嶺，實(shí)地勘測(cè)，翻閱大量資料，精心設(shè)計(jì)，每天工作到深夜。在短短的時(shí)間內(nèi)，拿出第一本藍(lán)圖—— 《林縣引漳入林灌溉工程初步設(shè)計(jì)書》。紅旗渠要通過(guò)山崖河澗，地形地貌十分復(fù)雜，他和同事們?cè)诠ぷ髦薪鉀Q了許多難題，設(shè)計(jì)出一些切合實(shí)際的建筑物。如青年洞一段，原擬繞山挖明渠，工程量大，施工難度大，經(jīng)過(guò)反復(fù)考慮比較，吳祖太改進(jìn)設(shè)計(jì)方案，采用鑿隧洞，讓渠道通過(guò)天險(xiǎn)絕壁。在總干渠跨越濁河的地方，他晝夜思考，拜訪附近山村老人。掌握河道地質(zhì)基礎(chǔ)和水文資料后，和其他工程技術(shù)人員研究，科學(xué)地設(shè)計(jì)出“空心壩”，讓渠水從壩心通過(guò)，河水從壩頂溢流，解決渠水與河水交叉的矛盾。

1960年2月，紅旗渠工程動(dòng)工后，吳祖太擔(dān)任工程股副股長(zhǎng)，負(fù)責(zé)工程設(shè)計(jì)，既要依據(jù)勘測(cè)實(shí)況，繪制每項(xiàng)工程設(shè)計(jì)圖紙，還要考慮每個(gè)工段施工的安全措施，工作十分忙碌，但他不叫一聲苦。他沒(méi)明沒(méi)夜地在工地上奔波，總感力不從心，恨不能生出三頭六臂。有一天他跑到盤陽(yáng)村南邊的鳳凰山工地，發(fā)現(xiàn)已經(jīng)挖了五六天的渠道，竟不是測(cè)定的渠線，自己感到非常內(nèi)疚，及時(shí)講明情況，予以糾正。這件事引起的教訓(xùn)，深深地刻在他的心里。

渠首攔河大壩挖了l米深，被水淹沒(méi)，吳祖太趕到工地，尋求解決辦法，又制定新的方案，解決了施工困難。同年3月，他發(fā)現(xiàn)王家莊隧洞有幾處裂縫，當(dāng)即和民工研究防險(xiǎn)辦法。為保證施工安全，他把原設(shè)計(jì)的“單孔洞”改為“雙孔洞”，這樣既能縮小洞頂跨度，又能確保隧洞更加堅(jiān)固。1960年3月28日下午，他聽說(shuō)王家莊隧洞洞頂裂縫掉土嚴(yán)重，出于對(duì)人民群眾安危的高度負(fù)責(zé)，與姚村公社衛(wèi)生院院長(zhǎng)李茂德深入洞內(nèi)察看險(xiǎn)情，不幸洞頂坍塌，奪去他年輕的生命，終年27歲。

吳祖太犧牲噩耗傳到縣委會(huì)，楊貴非常痛心地流出了眼淚，心情久久沒(méi)有平靜。立即成立治喪委員會(huì)，召開追悼大會(huì)，悼念這位為紅旗渠建設(shè)作出巨大貢獻(xiàn)的水利工程技術(shù)人員。根據(jù)吳祖太生前在林縣水利建設(shè)上所作出的貢獻(xiàn)，縣委追認(rèn)他為中國(guó)共產(chǎn)黨正式黨員。