從小喜愛讀書，清咸豐八年(1858)入鄉(xiāng)塾時(shí)已能“諸經(jīng)成誦”。清同治四年(1865)應(yīng)童子試，名列榜首。同年入關(guān)中書院， 業(yè)師為翰林院編修黃彭年。 九年 (1870) 肄業(yè)，先后在渭南、咸陽任教。清光緒元年(1875)參加陜西鄉(xiāng)試，中舉人。次年赴京會(huì)試落榜，從此絕意仕途，誓不為官，積極倡導(dǎo)并實(shí)踐普及教育、培養(yǎng)人才，使中國富強(qiáng)的主張。 　　

清光緒十一年(1885)，劉被聘為涇陽涇干書院主講，同時(shí)任味經(jīng)書院(亦設(shè)涇陽縣城姚家巷)講習(xí)。這一年，他和前任味經(jīng)書院山長(zhǎng)柏景偉成立求友齋，兩年后接任味經(jīng)書院山長(zhǎng)。劉在求友齋和味經(jīng)書院宣傳西方民主和科學(xué)思想，進(jìn)行課程設(shè)置改革，除保留經(jīng)史、道學(xué)等傳統(tǒng)課外，新開設(shè)了時(shí)務(wù)、天文、地理、算學(xué)等課程。他特別注重算學(xué)，認(rèn)為西人之富強(qiáng)，科技之發(fā)達(dá)，原本算術(shù)。因此，他主持書院刊印了《梅氏籌算》《平三角舉要》等書，并親寫序言予以介紹；他還置經(jīng)緯儀于書院的觀象臺(tái)上，培養(yǎng)學(xué)生的實(shí)際測(cè)算能力。這一年，劉還與柏景偉倡議，在西安設(shè)立官書局，推銷介紹西方科學(xué)與技術(shù)方面的書籍。十六年(1890)，劉又創(chuàng)辦復(fù)耕機(jī)館，研究發(fā)展農(nóng)業(yè)生產(chǎn)的技術(shù)與經(jīng)驗(yàn)。為了倡導(dǎo)種桑養(yǎng)蠶，他一面派學(xué)生去外地學(xué)習(xí)技術(shù)，一面在自己家里做試驗(yàn)，總結(jié)了從栽桑、養(yǎng)蠶到取絲、織綢的一整套經(jīng)驗(yàn)，編寫出《蠶桑備要》和《養(yǎng)蠶歌括》兩書。在此基礎(chǔ)上，他又說服涇陽知縣，在縣城南北廣植桑園，以作示范。 　　二十一年三月二十三日(1895年4月17日)，中日簽訂《馬關(guān)條約》，甲午戰(zhàn)爭(zhēng)以中國失敗，割讓臺(tái)灣全島與所有附屬島嶼和澎湖列島、遼東半島給日本，賠償日本軍費(fèi)白銀二萬萬兩而告終。劉在陜西響應(yīng)康有為、梁?jiǎn)⒊�發(fā)起的變法維新運(yùn)動(dòng)，印發(fā)康有為的《強(qiáng)學(xué)會(huì)序》，積極宣傳推行變法主張，還派學(xué)生陳濤、邢廷莢去北京、上海，與康、梁商討國事，時(shí)有“南康(有為)北劉(光蕡)”之稱。同年，劉在味經(jīng)學(xué)院選拔了40多名優(yōu)等生，創(chuàng)設(shè)了專門研討國內(nèi)外大事的時(shí)務(wù)齋，并要求時(shí)務(wù)齋的課程都要貫通中西：道學(xué)課“須兼涉外洋教門、風(fēng)土人情”；史學(xué)課“須兼外洋各國之史”；經(jīng)濟(jì)課“須兼外洋政治、《萬國公法》”；訓(xùn)詁課“須兼外洋語言文字之學(xué)”；地輿課“必遍五洲”；制造課“以火輪舟車為最要”；讓學(xué)生了解中國，了解世界。齋中還訂有《京報(bào)》《申報(bào)》《萬國公報(bào)》等報(bào)刊，幫助學(xué)生開闊眼界。時(shí)務(wù)齋實(shí)際上成了陜西最早的維新組織。次年，倡議創(chuàng)辦陜西保富機(jī)器織布局，期望發(fā)展陜西近代工業(yè)以抵御外國資本入侵�？棽季謴S址就定在涇陽味經(jīng)書院刊書處，并派學(xué)生陳濤到湖北、江蘇考察辦廠經(jīng)驗(yàn)，聯(lián)系購買機(jī)器，但終因籌款困難和守舊派作梗而擱淺。 　　

二十三年(1897)十月，由陜西護(hù)理巡撫張汝梅和陜西學(xué)政趙維熙奏準(zhǔn)修建于涇陽味經(jīng)書院東側(cè)的崇實(shí)書院落成，劉被選聘為山長(zhǎng)，主持書院一切。他把時(shí)務(wù)齋的學(xué)規(guī)定為“厲恥、習(xí)勤、求實(shí)、觀時(shí)、廣識(shí)、樂群”，加以闡發(fā)，作為崇實(shí)書院的學(xué)規(guī)。學(xué)規(guī)突出變法維新，同時(shí)注重實(shí)業(yè)。他闡釋“厲恥”說：“外夷之橫，異種之教，駕于堯舜之上，以屠割我中國，其恥之深，痛何如耶!恥之，則必求洗其恥；洗其恥，非自奮于學(xué)不可�！彼麑�(duì)“廣識(shí)”的闡述是：“欲救今日之弊，非洞悉西國之政治、工藝不可。西人風(fēng)氣日開，每歲新出之書，至萬余種，諸事日益求新。中國乃固守唐宋以來之舊見，烏得不日見割于人也!故西人藝事之書可讀，其政治之書尤不可不讀�！彼麜灾I學(xué)生團(tuán)結(jié)御侮，闡釋“樂群”道：“五大洲之上，人分五種。唯我中國為黃種，知識(shí)不亞于白種，而日見削弱其故何也?白人能群，各色不能群也。今外患日逼，非合天下為一心一力，不足以救亡。故今日第一義，當(dāng)自能群始。故吾愿人人能去自私自利之見，以勉求當(dāng)世之務(wù)，而共支危局�！痹谒�的主持下，崇實(shí)書院學(xué)生以愛國為己任，學(xué)習(xí)中西方文化，并注重求實(shí)學(xué)，做實(shí)事，不長(zhǎng)時(shí)間就將日本軋花機(jī)仿制成功。 　　

二十四年(1898)八月初六，戊戌變法失敗。劉的學(xué)生，在清廷總理衙門充章京職的李岳瑞，因參與變法，被清政府革職，“永不敘用，并拿問”。消息傳到陜西，劉悲憤不已。清廷在全國緝捕“康黨”，人們勸劉躲避。他說“國事如此，吾死國難，幸何如之，何言逃也�！比欢�，清廷并沒有放過他，他被解除了味經(jīng)書院、崇實(shí)書院的職務(wù)。次年，他住禮泉煙霞草堂，從學(xué)者仍有十余人。在此期間，他一邊著書立說，寫成《孟子性善備萬物圖說》、《大學(xué)古義》和《論語時(shí)習(xí)錄》等書稿；一邊把與邢廷莢在禮泉煙霞洞、咸陽天閣村、馬莊鎮(zhèn)、魏家泉、西陽村和扶風(fēng)午井鎮(zhèn)所辦的六所義學(xué)的館師、管事請(qǐng)到煙霞洞，共同商定了義學(xué)《章程》，使各所義學(xué)有所遵循。 　　二十九年(1903)應(yīng)甘肅總督崧蕃聘請(qǐng)，劉到蘭州任甘肅大學(xué)堂總教習(xí)。他“日則登堂講授，晚則徹夜批答”，終因勞累致疾不愈，同年八月十三(10月3日)逝世于蘭州。遺著編存的有《煙霞草堂文集》、《劉古愚先生全書》。