為日本會津藩槍械指揮者山本權(quán)八的長子，出生于若松城(鶴之城)附近的武士人家。

山本覺馬自幼聰明過人，9歲進(jìn)入藩校的日新館學(xué)習(xí)，表現(xiàn)良好，成績優(yōu)異，可以說是菁英中的菁英，24歲那年他已練就一身的好功夫，騎馬、耍槍、舞刀樣樣無不精通。

日新館時期

根據(jù)日新館的記載，日新館有所謂的“游學(xué)”制度，只要在該校的「素讀所」(小學(xué))、「講釋所」(大學(xué))修畢且成績優(yōu)秀者，藩主都會批準(zhǔn)該員前往他藩或江戶(東京)游學(xué)，覺馬當(dāng)時也得到此機(jī)會，前往最繁華的江戶一償游學(xué)的夙愿。

到了江戶新的環(huán)境，覺馬認(rèn)識了佐久間象山、勝海舟，以及接觸到各藩派來的優(yōu)秀人物，視野更為開擴(kuò)，觀念為之丕變，覺得眼光以前只看到會津一地而已，現(xiàn)在不一樣了，他意識到了國家、也意識到了日本在世界到底為何物的另一層看法。

蛤門之變

一度返回故鄉(xiāng)的覺馬，被任命為藩校日新館的老師，及在日新館里開設(shè)蘭學(xué)所，還擔(dān)任軍事審訊和炮隊隊長，他總算是出人頭地了。之后覺馬被派往京都服勤，接著不久京都發(fā)生「禁門之變」(又叫蛤門之變，江戶時代末期(1864年 元治元年)的事變。以「藩主冤罪向帝申訴」為由出兵到京都的長州藩，和試圖阻止長州軍入京的會津藩、桑名藩、薩摩藩，在現(xiàn)在的京都御所西側(cè)的蛤御門發(fā)生戰(zhàn)斗，長州藩敗戰(zhàn)，事變后德川幕府更發(fā)動第一次的長州征討。)擔(dān)任蛤門守備的他，打開大門展開突擊的大激戰(zhàn)。事變后，會津藩主獎賞戰(zhàn)功任命他為公務(wù)承辦人，蒙此，與幕府及各藩名士交流的機(jī)會增多，覺馬有了更大的活躍舞臺。

正當(dāng)覺馬準(zhǔn)備大展才能之際，眼睛突患眼疾，遂開始過著不辨黑白的日子。鳥羽伏見戰(zhàn)役，支持德川幕府的會津藩落敗，薩摩藩除了將覺馬逮捕并且關(guān)在藩內(nèi)。與薩摩藩成死敵的會津藩，意味著凡被對方逮捕的肯定必死無疑，而幾乎看不到任何東西的覺馬，被幽禁在人生地不熟的地方，換成一般人都會心生恐懼萬念俱灰，覺馬反倒看到一線的曙光。身為囚徒的他撰寫有關(guān)政治、經(jīng)濟(jì)、教育、衛(wèi)生、衣食住、貿(mào)易諸般等為主題的『管見』經(jīng)世濟(jì)民文章。他的才能因而得到西鄉(xiāng)隆盛的高度贊譽(yù)，到了明治時期他不僅被釋放，很多『管見』所提到的事宜，明治政府多所采用更延聘他為京都的施政顧問。日本最初的小學(xué)、科學(xué)研究所、勸業(yè)大博覽會等這些，都還出自覺馬的構(gòu)想呢！

覺馬眼盲心不盲，可這時卻又罹患了行走不良的毛病，覺馬最苦惱的時候他結(jié)識了新島 襄，除了贊同新島辦教育的理念外，還把從薩摩藩買來的土地破例廉價讓渡給新島，共同為同志社的設(shè)立竭盡所能，后來擔(dān)任過各種職務(wù)的他，在開拓京都的近代化有著不可抹滅的功勞。1892年山本覺馬安息主懷，享年65歲。

管見

《管見》（かんけん）是慶應(yīng)4年（1868年）6月，山本覺馬寄給新政府（御政府），在政治，經(jīng)濟(jì)，教育等22項涉及將來的日本的應(yīng)有的制度論述了建議書。管見意為自己的見解和謙稱。

思想家、橫井小楠有富國·富國強(qiáng)兵·士道（經(jīng)濟(jì)、國防、道德）的確立倡導(dǎo)的“國策”三論酷似，進(jìn)一步發(fā)展。三權(quán)分立的“政體”開始，大學(xué)院·小院的兩院制的“議事院”，“學(xué)�！保�“變革”制度，從封建制度郡縣制移行和世襲制的廢止，稅制改革。倡導(dǎo)的“國體”、“建國術(shù)”、“制鐵法”，“貨幣”、“溫飽”，女子教育實行“女學(xué)”，遺產(chǎn)的平均分給的“平均法”、“釀造法”、“條約”、“軍艦國體”、“港制”，“救濟(jì)貧民”“頭發(fā)制”，寺廟的學(xué)校的開放提出“變佛法”、“商律”、“點法”，采用陽歷歷法”，大部分的建議都被明治新政府后期采用。

1875年，受當(dāng)時在大阪?zhèn)鹘痰拿绹鴷�眾派傳教團(tuán)體的影響。那時，與新島襄（其與山本覺馬妹妹山本八重（新島八重）已結(jié)婚)結(jié)識，得知新島建立學(xué)校的計劃，山本覺馬將明治維新后從舊薩摩藩購入的6000坪地給予新島，并聯(lián)名向文部省申請設(shè)立新的學(xué)校，這個學(xué)校就是后來的同志社大學(xué)。同志社即山本覺馬所命名。