李有棠幼年時讀書，就已顯露出天資的聰慧，不但能強記，而且十分注意鍛煉理解能力。在十多歲時，他便領悟到 “有用之學，無不自經(jīng)史醞釀而出”。所以他特別留心經(jīng)史，不到二十歲，就已讀完《十三經(jīng)》。由于在他的上代中，沒有一個讀書人，家里也沒有一本可讀的書，這些書都是借來的。他一面讀，一面摘錄，一面心里盤算著自己要買一批書。那時正值太平天國定都天京之后，滿清政府盡力想要撲滅之，東南各省遍地戰(zhàn)火，蘇、杭等處各大書肆無不毀于兵燹。他決心不惜重金(據(jù)講，共花了兩萬兩白銀)，北從京、律，南從粵、桂，設法控購了大量的書籍，為日后講求學問、從事著作打下厚實的基礎。同時又在宅旁隙地另筑精舍一所，專作藏書、讀書之用。從此，他日與諸弟研習其中，互相切磋、問難，互為師友，在怡情悅性中彼此提高都很快、很大。

李有棠是無書不讀的。經(jīng)、史、子、集四郎，各有心得。而他用力最專的則是史部。他的《歷代帝王正閏統(tǒng)總纂》，實際上恐怕就是一部簡明的中國通史。上述兩部著作都沒有刊印，所以也都不曾流行于世，只有少數(shù)人知道。

李有棠在印行了兩書之后，不到一年，終因心力交瘁而去世了。《遼史紀事本末》，《金史紀事本末》在去世后一年出版，朝廷頒旨授“內(nèi)閣中書銜”，由胞弟李有棻再請旨授“資政大夫”（正二品）。

李有棠用了二十多年的精力，主要研究遼史和金史。二十四史中的宋、遼、金三史都是元丞相脫脫主持修撰的。三史成書的時間都很倉促，錯訛、掛漏部很多，尤以《遼史》為最甚。李有棠按集各種正史、野文、筆記、雜說等類資料，考訂錯訛，補充掛漏，用力甚勤，厥功甚偉。最后于光緒十年(1884)，始仿袁樞、陳邦瞻的體例，寫成《遼史紀事本末》四十卷，《金史紀事本末》五十二卷。兩書皆分“正文”和“考異”兩部分。“正文”對遼史金史紀傳中所載史實，按專題纂輯，縷晰條分，區(qū)別條流，各從其類，俱本正史。“考異”則兼采群書，小注雙行，將諸種異同逐條分載；每條之下，列舉大量史料和釋疑線索，以便觀覽，供資參證；質(zhì)疑之中寓有作者見解，說理性強，令人信服。

這兩部著作都完整地寫了三次草稿，于光緒二十年(1894)在上海石印成書，是為兩書的第一次出版。第一次出版后，又花了整整十年的工夫，李有棠對兩書作了大量的補充、修正。他決定這次在家中雇工刻印，由他親自指導和校對。所以這個家藏版不僅內(nèi)容上更箱審，而且到工準確，印刷精美。全部(據(jù)說只印一千部)印成并發(fā)行于光緒三十年(1904)，是為兩書的第二次出版。書成之后，江西學政吳士鑒向朝廷推薦，在《進呈遼金紀事本末片奏》中稱：“今得此書，博考群編，蔚為鉅制，實為乙部中不朽之作”。禮部尚書徐甫在《南書房閱看遼金紀事本末覆奏》中稱：“該員以類排纂成書九十二卷，用力甚勤，而于政治得失之間尤多深意�！背�廷諭旨中稱：“前據(jù)奏稱，該員排纂成書，用力甚勤等語，李有棠賞給內(nèi)閣中書銜，以示嘉獎�！眱蓵�發(fā)行后，頗受社會上和學術界的重視，曾先后被收進《七種紀事本末》和《九種紀事本末》里，與宋人袁樞的《通鑒紀事本末》和明人陳邦瞻的《宋史紀事本末》等名著并列在一起。李有棠的姓名也列入了民國時出版的《中國名人大辭典》里。這兩部書并于八十年代初期先后由中華書局點校出版。先人的心血受到了后世的尊重，這是員可貴的。