1905年考入江南水師學(xué)堂（南洋水師學(xué)堂），先學(xué)駕駛，因病輟學(xué)一年后改學(xué)輪機(jī)技術(shù)。1909年以最優(yōu)成績(jī)畢業(yè)，在"海琛"號(hào)軍艦實(shí)習(xí)，后為海軍提督薩鎮(zhèn)冰的侍從副官。1911年夏派赴美留學(xué)，歷經(jīng)4年得造艦科碩士學(xué)位。畢業(yè)后在美海軍兵工廠工作2年，研究潛艇工程。1915年底回國(guó)，由北京海軍部派為第一次世界大戰(zhàn)海軍觀戰(zhàn)員。1917年派任倫敦使館海軍副武官。1918年春參加意大利海軍在地中海作戰(zhàn)，并兼任巴黎和會(huì)專門委員。1919年春徐祖善調(diào)任福建飛潛學(xué)校校長(zhǎng)，未到任改調(diào)為北京海軍部軍事科長(zhǎng)。后轉(zhuǎn)往新設(shè)航空署兼任廳長(zhǎng)。1922年，徐祖善脫離海軍任接收青島港務(wù)主任委員，兼任膠州海關(guān)監(jiān)督。1924年11月，徐祖善任天津海關(guān)監(jiān)督。1925年，任財(cái)政部駐北京辦事處處長(zhǎng)。1928年春出任隴海鐵路管理局長(zhǎng)。1930年6月14日，國(guó)民政府外交部設(shè)立籌辦接收威海衛(wèi)事宜辦事處，任命徐祖善為特派員。1930年9月成立威海衛(wèi)行政區(qū)，任命外交部司長(zhǎng)徐祖善為首任管理專員。1936年徐祖善先后擔(dān)任宜昌、漢口海關(guān)監(jiān)督。抗戰(zhàn)爆發(fā)后，任海軍部少將高級(jí)參謀，監(jiān)督檢閱馬當(dāng)防務(wù)。1938年桂林行營(yíng)成立時(shí)，調(diào)任西南江防處處長(zhǎng)兼粵桂江防司令。1942年秋調(diào)任全國(guó)海關(guān)海務(wù)巡工司。1945年后徐祖善在上海任華中輪船公司常務(wù)董事兼船務(wù)處長(zhǎng)，期間曾一度擔(dān)任塘沽新港工程局顧問、旅大視察團(tuán)團(tuán)員、青島市政府顧問兼代秘書長(zhǎng)。 1951年，國(guó)家交通部曾邀其赴北京任職，未就。1953年，在華中輪船公司改組為公私合營(yíng)后，退職回到無錫，不再任事。1957年7月2日病故于無錫，終年67歲。

徐祖善生前著有《潛水艇》一書，1915年由商務(wù)印書館出版，是國(guó)內(nèi)有關(guān)潛水艇的最早著述。

1929年6月21日，同國(guó)政府外交部長(zhǎng)王正廷向英國(guó)駐華公使提出交涉交還威海衛(wèi)問題。同年4月18日，王正廷和英使藍(lán)普森代表各自政府在南京對(duì)《專約》和《協(xié)定》簽字，10月1日互換批準(zhǔn)約本議定書。

1930年6月14日，在南京成立籌辦接收威海衛(wèi)辦事處，委任外交部司長(zhǎng)徐祖善為特派員，朱世全為調(diào)查主任,吳天放為事務(wù)主任。7月2日，徐祖善率同助理人員到達(dá)威海衛(wèi)，籌備交接事宜。不意，中國(guó)駐英公使施肇基于7月22日電告外交部，謂英國(guó)交還專員迄未派定，言傳英方估計(jì)威海衛(wèi)港口各建筑物造價(jià)200萬鎊，須先得到該款方能交還。實(shí)際上威英當(dāng)局將“財(cái)政儲(chǔ)備金”余額361911元轉(zhuǎn)移到香港，徐祖善為此被召回南京。9月9日英使藍(lán)普森到達(dá)南京，2日后，王、藍(lán)交涉，決定10月1日實(shí)行交接。

時(shí)山東局勢(shì)不穩(wěn)，歸屬難測(cè)，英外務(wù)部想順沿一年交還。9月21日，東北軍張學(xué)良易幟擁護(hù)南京政府，率軍入關(guān)并占領(lǐng)北平，南京政府于是考慮到，為防止山東軍閥搗亂，決意調(diào)動(dòng)?xùn)|北海軍接收威海衛(wèi)。9月23日，任命外交部次長(zhǎng)王家楨（原為東北軍）為接收威海衛(wèi)專員，徐祖善為威海衛(wèi)管理公署專員。

10月1日8時(shí)，王家楨等率領(lǐng)海軍陸戰(zhàn)隊(duì)300人，由青島乘海琛、鎮(zhèn)海兩艦抵達(dá)威海港，英艦彼得斯菲爾特號(hào)鳴禮炮15響，以示歡迎。10時(shí)50分，接收典禮在威英行政長(zhǎng)官署前舉行。英駐威行政長(zhǎng)官莊士敦宣讀《專約》及《協(xié)定》后，升中華民國(guó)國(guó)旗，并奏中華民國(guó)國(guó)歌，中英兩國(guó)軍艦各鳴禮炮21響，以示祝賀。英國(guó)統(tǒng)治32年之威海衛(wèi)，終于回到祖國(guó)懷抱。