1904年回國后，歷任天津地區(qū)各小學 教務長，并創(chuàng)設單級小學堂，籌備天津教育博物館。旋入直隸學校司，任職期間，擬訂 勸學所、宣講所等章程，均付諸實施。1905年，任直隸學務公所圖書課副課長，主編《直隸教育雜志》（此為中國近代最早的省級教育行政機關刊物），并與 高步瀛合編《國民必讀》、《民教相安》，由北洋官報局公開印行10萬冊，在社會上產(chǎn)生了廣泛的影響。另編著《國民鏡》、《家庭談話》等教科類圖書多種。這些書都采用白話文，所以在民間非常流行，成為新文化運動之先聲。本年底，隨嚴修到清廷學部任職，擬訂學部開部之計劃，改定中等以下學堂章程，主持組織圖書局和編纂教科書的工作，官階由主事升至郎中。又曾擔任普通教育司師范科員外郎。1910年，擢升為學部實業(yè)司司長。1912年7月，陳寶泉被教育部任命為 北京師范大學的前身-- 北京高等師范學校的校長，并應教育總長 蔡元培之約，出席"全國臨時教育會議"，參與民國初年教育改革。

1912－1920年，陳寶泉任北京高師校長期間，上書 袁世凱論述發(fā)展師范教育之切要，主持制定《北京高師規(guī)程》、《北京高師五年計劃書》，將原京師 優(yōu)級師范學堂的英語、理化二部，擴充為國文、英文、史地、數(shù)理、理化、博物六部，增設附屬中小學、教育研究科、職工養(yǎng)成科、體育專修科及東三省師范養(yǎng)成班；籌集經(jīng)費，完成各科實驗室、研究室、圖書館、體育館、工業(yè)部之建設；倡設運動會、辯論會、游藝會、新劇團、雅樂團、講演會、平民學校，引導學生全面發(fā)展，初步奠定了日后 北京師范大學的規(guī)模。 五四運動時，陳寶泉與 蔡元培等積極營救被捕學生。他以校長身份親自到校門口迎接"高師八勇士"（指 陳宏勛、楊荃駿、初銘音、向大光、薛榮周、 趙允則、唐英國、 王德潤）；為了他們的安全和畢業(yè)后的出路，又親自為他們改名字（如陳宏勛改名為陳藎民，楊荃駿改名楊明軒，初銘音改名初大告），體現(xiàn)了一個敦厚師長對自己學生的愛護。

他重視師資隊伍建設，聘請一批著名學者來高師長教，如 王桐齡、 鄧萃英、 許壽裳、 馬寅初、 張耀翔、 經(jīng)亨頤、 陳映璜、 馬敘倫、 丁文江、 翁文灝、 何炳松、沈步洲、 陶孟和、 錢玄同、 黎錦熙、 毛邦偉等40余人，盡一時之選。

陳寶泉管理北高師以"誠勤勇愛"為校訓，采取校務公開原則。他不僅及時借鑒北大的改革經(jīng)驗，而且在推行學生自治和平民教育等方面成績斐然，使北高師成為新文化運動中北大之外的又一重要陣地。陳寶泉辦學有方，贏得了師生的深切愛戴，正如一位高師畢業(yè)生所說："吾師（指陳寶泉）桃李滿林，鐸聲一振，弟子來歸。"（見《張崇玖致陳寶泉書》，載《五四運動與北京高師》，北師大出版社1984年版）陳寶泉去高師校長職時，校內(nèi)外群起挽留，與當時社會上一些學校驅(qū)逐校長之風形成鮮明對照。

陳寶泉在辦學指導思想上能正確處理繼承祖國傳統(tǒng)和學習外國的關系，他曾在《國民鏡》中鮮明地指出;不墨守唯我獨尊的謬見，對于中外學問事功，其愛憎取舍，論其實不論其名。"他強調(diào)大膽學習外國，并引俗語說："泰山不讓土壤，故能成其高；河海不擇細流，故能成其深。國家若不取法各國，何以富強呢？"正確的態(tài)度是："取人之長，補己之短，使本國為完全獨立之國。"基于這種思想，陳寶泉在執(zhí)掌高師期間曾多次考察國內(nèi)外教育，如1915年率北京高師附�。ń� 北京第一實驗小學）主任 鄭際唐、北京高師附中（今北京師大附中，俗稱北師大一附中）主任韓誦裳參觀江蘇、浙江教育；1917年與 黃炎培、 郭秉文、 蔣維喬等參觀日本、菲律賓以及廣東、 香港教育；1919年與表希濤等考察歐美教育，在美時，由普名教育家 孟祿等陪同參觀，并邀孟祿訪華。在美國，陳寶泉還熱情會見了張仲述（ 張伯苓胞弟，后曾于1923年主持北京師大與 中華教育改進社合辦的"中學課程研究班"）、 李建勛（后曾任北京高師校長）等留學生代表，邀請他們回國任教。

在任北京高師校長期間，陳寶泉還積極參加各種學術集會和學術團體的領導工作，由他親自創(chuàng)辦并擔任會長的重要教育社團有：北京通俗教育研究會、北京教育學會、天津縣教育會、全國師范教育研究會等職。又與張元濟等發(fā)起師范講習社，編輯出版《新體師范講義》。1915年參與發(fā)起全國教育會聯(lián)合會，以后歷屆年會均參與主持。1917年1月，與 蔡元培、 黃炎培等發(fā)起成立 中華職業(yè)教育社。

1918年4月受教育部委托主持召開全國高等師范學校校長會議；9月向教育部提交關于設立道德教育研究部的呈文，獲準施行。同年在北京高師主持召開中國教育史上首次國語教科書編輯會議，與 黎錦熙、 錢玄同等創(chuàng)編國語教科書。1919年3月，教育部組織教育調(diào)查會，由陳寶泉、 蔡元培等九人組成，陳分別擔任普通教育調(diào)查股、師范教育調(diào)查股成員。同年，與袁希濤共同創(chuàng)辦 中華博物學會，任副會長。 1920年冬，陳寶泉調(diào)任教育部普通教育司司長。入部之初，他即向教育總長 范源濂條陳各項部務改革計劃和建議，深得贊同，以后歷任總長也都參酌執(zhí)行。1921年4月，北大、北高師等八校教職員因索薪罷課，教育總長、次長相繼辭職，部中月余無長官，普通司司長陳寶泉和專門司司長任鴻雋共同維持部務，任疏解之責。同年，武昌高師因經(jīng)費無著，學生200人北上請愿，部中議論紛歧，多不敢問津此事，陳寶泉出面多方斡旋，終使武昌高師得免停閉。本年夏，參與組織實際教育調(diào)查社，邀集教育界人士與 孟祿召開大型教育討論會，與陶行知、胡適合編《孟祿的中國教育討論》。會議期間，實際教育調(diào)查社、新教育共進社、新教育雜志社欲合組為中華教育改進社，三社公推陳寶泉、陶行知、朱經(jīng)農(nóng)、 馬敘倫、李建勛為社章起草員，該社成立后，陳任教育行政組審查委員。1922年，參與制定"壬戌學制"，并任中華教育文化基金委員會委員。1923年任教育部教育次長兼普通教育司司長。在普通司司長任內(nèi)，他還組織了教育行政講習會、小學成績展覽會等活動。1923年8月，參與發(fā)起中華平民教育促進總會，與陶行知等九人一起當選為執(zhí)行董事。1924年，被選為中華教育改進社九位董事之一，又任該社教育行政委員會副主任、義務教育委員會副主任。1925年3月，與李大釗等受聘擔任"華北六大學中文辯論會"評判員。

陳寶泉在"高師改大"的過程中也起了重要作用，早在1919年山西全國教育會聯(lián)合會年會上，他就與 鄧萃英聯(lián)名提出了《設置師范大學案》。1922年以后，他以教育部官員身份兼任 北京師范大學籌備委員；與梁啟超、 張伯苓等九人擔任北京師范大學董事會董事；又先后任北京師范大學教育系講師、教授。除在教育部任職外，他在北師大講授《中國近代學制變遷史》課程，從1925年起，他整理講義，三易其稿，編著成書，于1927年正式出版。該書準確地繪制了各個時期學制系統(tǒng)圖，為后來的中國教育史書所取法，成為教育史研究者必讀之書。 陳寶泉是我國師范教育的卓越前驅(qū)，一貫重視師范教育，尤其在高師校長任內(nèi)提出的改革師范教育的意見、建議，產(chǎn)生了深遠影響。他說，小學教師為"國民教育之母"，中學以上教師為"人才教育之母"，所以要不斷提高教師待遇；師范教育須獨立設置，自成系統(tǒng)，招生人數(shù)與中小學數(shù)量"要互成比例"；教師是神圣的職業(yè)，須重視人格修養(yǎng)，要有信仰。不能偏重"智"，忽視"德"；教師必須真正做到誠勤勇愛、為人師表、以身作則。

他主張資遣師范學校教職員到國外游學游歷，加強教員培訓，提高教員素養(yǎng)，認為："促進師范教育之進行，則國民教育根本自固"。1913年6月，他在北京高師學生畢業(yè)式上指出："教育為國家命脈，師范為教育胚胎"，教導畢業(yè)生要"以教育事業(yè)為第二生命，以師范名譽為無上財產(chǎn)"。在《北京高師畢業(yè)同學錄·序》中，他指出："凡我同人，應以北京高師教育之發(fā)展為無上之目標，無論在職去職，在京在外，今日明日，共向所定之目標，加以無限之助力"。調(diào)人教育部后，他仍經(jīng)常關心北師大的發(fā)展，希望師大同人明確 北京師范大學在全國特殊的重要地位，"使師大之校風可以轉(zhuǎn)移全國教育之風氣"。北京師大對中國近現(xiàn)代教育的改革和發(fā)展發(fā)揮了十分重大的作用，這與陳寶泉的影響是分不開的。

他在北京高師倡導學生自治，推行自學輔導實驗，強調(diào)要發(fā)揮學生的主觀能動性。傳統(tǒng)教育的教與學是分離的，現(xiàn)代新教育則倡導教與學合一。1920年前后，陶行知和陳寶泉南北呼應，相繼主張將教授法改為教學法。陳寶泉指出："方法由宗旨而定，今日教學法之宗旨，應力斤教員中心主義，而實行 兒童中心主義，故不曰教授法，而曰教學法。"把"教授法"改為"教學法"，這是教學觀念、教學思想領域的重大變革，是教學理論上的重要探索，它促進了中國近代的教學改革乃至整個 新教育運動。

綜上所述，陳寶泉任北京高師校長達九年之久，從校址的開辟，校舍的建筑，到教員的延聘，系科的設置，直至各種規(guī)章制度的訂立，都是由他主辦的，"卒蔚成此全國最大高等師范之基礎"。（見《北京師大周刊》，1923年 9月 28日）

陳寶泉既是北京高師的主要創(chuàng)辦人，又是 北京師范大學的主要奠基人與創(chuàng)辦人之一。為了表彰陳寶泉的光輝業(yè)績，北京師大分別在不同時期建有"筱莊樓"和"筱莊齋"（筱莊是陳寶泉的字）。

1928年，陳寶泉離開教育部。1929年，任天津市 政府參事、教育部名譽編審、天津貧民救濟院院長，又在南開大學兼課。后任天津廣智館董事、青年會董事、鐵路同人教育會副會長等職。1930年底，任河北省政府委員兼教育廳廳長。1931年九一八事變后，他打電報指責蔣介石的不抵抗政策，在教育界引起很大反響。1933年擬定《河北省教育三年計劃》，整頓高等教育，開辦義務教育實驗區(qū)。1935年7月，蔣介石政府與日寇簽訂了喪權辱國的《何梅協(xié)定》，陳憤而辭去廳長職務。1937年七七事變后，他熱情接受天津市 教育局邀請，給中小學教師作報告，勸勉教育界同仁發(fā)憤圖強，共赴國難。當時天氣炎熱，他情緒過于激動，又患高血壓癥，從此臥床不起，醫(yī)治無效，正于天津淪陷之日逝世，享年63歲。

陳寶泉是我國教育近代化進程中偉大的愛國者和拓荒者，從書刊編輯、小學教師到大學教授，從小學教務長到大學校長，從直隸學校司、清廷學部到 中華民國教育部，再到河北省教育廳，他是能夠與時俱進的教育家，服務于教育界近40年，對近代中國的教育改革和發(fā)展做出了突出貢獻�？梢哉f，擔任北京高師校長時期是他人生最輝煌的時期之一。他在北京高師的事跡和關于 師范教育的真知灼見至今仍閃爍著智慧的光芒，具有重要的現(xiàn)實意義，值得我們學習和借鑒。

喜藏書，14歲即開始對藏書感興趣，后自己購書有《四庫簡明目錄》、《曾文正公家訓》、《書目答問》、《二十二史約編》、《輶軒語》等，開始其藏書生涯。有藏書樓為“退思齋”，自稱“惟書籍之嗜好，則強爾難制”，“今日藏書逾萬卷，每過書肆，尚流連不能去”。和天津當?shù)匚娜藝佬蕖⑼跏剽�、趙元禮過往甚密，王守恂題寫有“近聞萬卷收羅富，可許衰翁得再窺”之句；趙元禮有《退思齋圖》題詩：“軒窗幽敞翳花樹，圖書四壁恣探窺”。著《中國近代學制變遷史》、《退思齋詩文存》、《陳筱莊五十自述》等。