光緒二十九年（1903年）中舉人。 光緒三十二年（1906年）考入河南師范學(xué)堂。在校期間被推舉為河南教育總會(huì)評(píng)議員。不久，秘密參加同盟會(huì)。

1908年畢業(yè)后，井俊起任河南省第五路視學(xué)，視察鞏縣、嵩縣、洛陽、洛寧、盧氏等14縣學(xué)務(wù)。宣統(tǒng)二年（1910年）夏任第四路省視學(xué)。宣統(tǒng)三年（1911年）調(diào)省學(xué)務(wù)公所圖書科工作，主辦《開封簡報(bào)》。1912年，袁世凱委其表兄張鎮(zhèn)芳為河南都督。河南教育界發(fā)電不予承認(rèn)。因井俊起為發(fā)電代表之一，被張鎮(zhèn)芳銜恨在心。同年3月，井俊起被委為汜水縣知事。他到任后，革除陋規(guī)，設(shè)林業(yè)公司，創(chuàng)公款局，遭到土豪劣紳的忌恨和誣告，被張鎮(zhèn)芳借機(jī)撤職。

1927年，井俊起任河南通志館纂修，分工編纂《河南藝文志》。他與纂修周云等商定，仿《四庫書目》體例，并積極搜集各史藝文經(jīng)籍志及各家書目。之后他數(shù)經(jīng)輾轉(zhuǎn)，職務(wù)更易，但始終不忘編寫文志，1934年完稿。所采錄資料共計(jì)7142種。經(jīng)館長張仲魯審定，次第付印。此間他還著有《中州詩抄》、《說文臆解》、《詩經(jīng)臆解》、《莊子臆解》等書。1932年，井俊起任河南圖書館館長。其間，他領(lǐng)導(dǎo)全體館員進(jìn)行圖書編目、出版館刊、整理書版、刊刻河南省先哲遺著等工作�？谷諔�(zhàn)爭期間，圖書館遷移至宛屬一帶，仍在南陽、淅川、魯山等處開展圖書閱覽業(yè)務(wù)。同時(shí)將館藏17.5萬多冊(cè)珍本、善本書及志書等，隱藏于深山寺院之內(nèi)，賴以保存無失。

抗日戰(zhàn)爭勝利后，井俊起由南陽返回開封。第二天即到館內(nèi)研究恢復(fù)工作，使圖書館很快對(duì)外開放。1948年10月，開封第二次解放前夕，國民黨派員赴汴，下令將珍貴善本圖書南遷江南，遭到井俊起與全體員工的堅(jiān)決抵制。開封解放后，井俊起被市人民政府邀請(qǐng)回館工作，仍任館長。1950年，作為特邀代表參加河南省第五屆各界人民代表會(huì)議。他提出推廣圖書教育的辦法，設(shè)置大眾閱覽室、兒童閱覽室、閱報(bào)室，并籌辦大眾代筆問事處、流動(dòng)書箱、流動(dòng)書車、巡回文庫、業(yè)余文化學(xué)校等。同時(shí)，又專門開設(shè)善本圖書閱覽室及特藏室，供研究者參閱。1954年6月，年近八旬的井俊起辭去省圖書館長職務(wù)，任河南文史研究館館委，繼續(xù)整理中州文獻(xiàn)資料。中國的偉人。