1905年考入江南水師學(xué)堂（南洋水師學(xué)堂），先學(xué)駕駛，因病輟學(xué)一年后改學(xué)輪機技術(shù)。1909年以最優(yōu)成績畢業(yè)，在"海琛"號軍艦實習(xí)，后為海軍提督薩鎮(zhèn)冰的侍從副官。1911年夏派赴美留學(xué)，歷經(jīng)4年得造艦科碩士學(xué)位。畢業(yè)后在美海軍兵工廠工作2年，研究潛艇工程。1915年底回國，由北京海軍部派為第一次世界大戰(zhàn)海軍觀戰(zhàn)員。1917年派任倫敦使館海軍副武官。1918年春參加意大利海軍在地中海作戰(zhàn)，并兼任巴黎和會專門委員。1919年春徐祖善調(diào)任福建飛潛學(xué)校校長，未到任改調(diào)為北京海軍部軍事科長。后轉(zhuǎn)往新設(shè)航空署兼任廳長。1922年，徐祖善脫離海軍任接收青島港務(wù)主任委員，兼任膠州海關(guān)監(jiān)督。1924年11月，徐祖善任天津海關(guān)監(jiān)督。1925年，任財政部駐北京辦事處處長。1928年春出任隴海鐵路管理局長。1930年6月14日，國民政府外交部設(shè)立籌辦接收威海衛(wèi)事宜辦事處，任命徐祖善為特派員。1930年9月成立威海衛(wèi)行政區(qū)，任命外交部司長徐祖善為首任管理專員。1936年徐祖善先后擔(dān)任宜昌、漢口海關(guān)監(jiān)督。抗戰(zhàn)爆發(fā)后，任海軍部少將高級參謀，監(jiān)督檢閱馬當(dāng)防務(wù)。1938年桂林行營成立時，調(diào)任西南江防處處長兼粵桂江防司令。1942年秋調(diào)任全國海關(guān)海務(wù)巡工司。1945年后徐祖善在上海任華中輪船公司常務(wù)董事兼船務(wù)處長，期間曾一度擔(dān)任塘沽新港工程局顧問、旅大視察團團員、青島市政府顧問兼代秘書長。 1951年，國家交通部曾邀其赴北京任職，未就。1953年，在華中輪船公司改組為公私合營后，退職回到無錫，不再任事。1957年7月2日病故于無錫，終年67歲。

徐祖善生前著有《潛水艇》一書，1915年由商務(wù)印書館出版，是國內(nèi)有關(guān)潛水艇的最早著述。

1929年6月21日，同國政府外交部長王正廷向英國駐華公使提出交涉交還威海衛(wèi)問題。同年4月18日，王正廷和英使藍普森代表各自政府在南京對《專約》和《協(xié)定》簽字，10月1日互換批準(zhǔn)約本議定書。

1930年6月14日，在南京成立籌辦接收威海衛(wèi)辦事處，委任外交部司長徐祖善為特派員，朱世全為調(diào)查主任,吳天放為事務(wù)主任。7月2日，徐祖善率同助理人員到達威海衛(wèi)，籌備交接事宜。不意，中國駐英公使施肇基于7月22日電告外交部，謂英國交還專員迄未派定，言傳英方估計威海衛(wèi)港口各建筑物造價200萬鎊，須先得到該款方能交還。實際上威英當(dāng)局將“財政儲備金”余額361911元轉(zhuǎn)移到香港，徐祖善為此被召回南京。9月9日英使藍普森到達南京，2日后，王、藍交涉，決定10月1日實行交接。

時山東局勢不穩(wěn)，歸屬難測，英外務(wù)部想順沿一年交還。9月21日，東北軍張學(xué)良易幟擁護南京政府，率軍入關(guān)并占領(lǐng)北平，南京政府于是考慮到，為防止山東軍閥搗亂，決意調(diào)動?xùn)|北海軍接收威海衛(wèi)。9月23日，任命外交部次長王家楨（原為東北軍）為接收威海衛(wèi)專員，徐祖善為威海衛(wèi)管理公署專員。

10月1日8時，王家楨等率領(lǐng)海軍陸戰(zhàn)隊300人，由青島乘海琛、鎮(zhèn)海兩艦抵達威海港，英艦彼得斯菲爾特號鳴禮炮15響，以示歡迎。10時50分，接收典禮在威英行政長官署前舉行。英駐威行政長官莊士敦宣讀《專約》及《協(xié)定》后，升中華民國國旗，并奏中華民國國歌，中英兩國軍艦各鳴禮炮21響，以示祝賀。英國統(tǒng)治32年之威海衛(wèi)，終于回到祖國懷抱。