趙明誠《金石錄》是金石研究的重要著作，原書30卷，傳世僅幾種抄本（《四部叢刊》收的是呂無黨抄本），宋刻已失傳。錢曾《讀書敏求記》稱馮硯祥有不全宋槧10卷，該書在明代有葉盛、吳寬、錢谷等人的抄本，清代有盧見曾、黃丕烈刻本，清初有呂無黨抄本，但均為不全殘本。盡管不是全本，人們都稱為奇書、人間孤本。清馮文昌家藏宋刻殘本10卷（卷11～卷20），并刻有“金石錄十卷人家”之印，以后又傳至鮑廷博、阮元、趙魏、潘祖蔭等著名藏家，均刻有同一印章。1951年夏，趙世暹在南京一書肆上，購得一部《金石錄》，根據(jù)初步斷定，疑為宋刻，遂送到上海，請著名版本目錄學(xué)家張?jiān)獫?jì)鑒定。該書上印有“金陵甘福夢六氏藏”、“津逮樓”等藏印，張?jiān)獫?jì)見后高興異常，歷經(jīng)數(shù)百年的戰(zhàn)亂和水火，這部宋版書竟奇跡般地得以躲過歷劫而幸存。張?jiān)獫?jì)又進(jìn)一步考證，潘祖蔭“滂喜齋”藏本僅為重刻，收藏者都鐫刻了一枚“金石錄十卷人家”小印，鈐于書上。甘氏“津逮樓”本才是龍舒郡齋初刻。當(dāng)時(shí)國家文物局局長鄭振鐸正在上海，趙世暹將此宋槧請鄭振鐸轉(zhuǎn)獻(xiàn)國家圖書館保存。1983年此書連同張?jiān)獫?jì)跋文已經(jīng)作為《古逸叢書三編》之二影印出版。晚年捐獻(xiàn)的水利文獻(xiàn)頗多。與武同舉合著《再續(xù)行水金鑒》、與沈怡合編《黃河年表》等。

趙世暹是上海中華郵票會早期會員。他以收集實(shí)寄封片為重點(diǎn)，多而且精，堪稱國內(nèi)首屈一指。其中包括有海關(guān)一、二次萬壽及大小字加蓋紅印花等實(shí)寄封百余枚，變體票實(shí)寄封亦十分豐富。還有幾部專門郵集：蒙古郵集、哈爾濱加蓋俄國客郵郵集、洪憲元年戳集等，都是難得的珍品。其中洪憲元年戳集實(shí)寄封及單票達(dá)五六百枚之多，袁世凱稱帝83天內(nèi)的戳集完整無缺，國內(nèi)僅見。趙世暹郵識精深，文筆俊逸，1929年撰寫臺過集郵小說《新婚之夜》，發(fā)表在《郵乘》第三卷第三期上。1932年，趙世暹調(diào)職張家灣車站，帶著全部郵幣珍藏品兩大箱赴任。不料在途中遭遇土匪劫車，兩箱藏品被全部搶走。從此他心灰意懶，停止了集郵。這種不幸的悲劇，不僅是對這位學(xué)識超群的集郵家的致命打擊，也是中國集郵界無可挽回的損失。