馬歇爾于1755年9月24日出生于弗吉尼亞州福奎縣日爾曼鎮(zhèn)，家境貧寒，沒有受過正式的法律教育。但是馬歇爾自幼學(xué)習(xí)刻苦，對學(xué)術(shù)研究尤感興趣。馬歇爾的父親湯姆斯·馬歇爾和美國開國元勛喬治·華盛頓結(jié)交頗深，而且有較高的政治素養(yǎng)，經(jīng)常參加與美國憲政問題有關(guān)的辯論。年輕的馬歇爾無疑深受父親的影響和熏陶，對政治發(fā)生了濃厚的興趣。1776年，馬歇爾在獨(dú)立戰(zhàn)爭期間毅然從軍，先當(dāng)排長，后于1778年晉升為連長。

1781年退役后在弗吉尼亞州從事律師業(yè)務(wù)，曾經(jīng)先后兩度被選為該州議會議員。他對大陸會議和邦聯(lián)國會權(quán)力的式微和軟弱表示擔(dān)憂，決心為美國的強(qiáng)有力的聯(lián)邦主義而奮斗終生。馬歇爾于18歲時開始研習(xí)法律。1780年，馬歇爾25歲時曾在威廉瑪利學(xué)院旁聽法律，但為時僅2個月。這是他畢生所受的惟一一次法學(xué)教育。1783年他與瑪麗·韋利斯·安布娜女士結(jié)婚，并移居黎區(qū)蒙，家庭生活頗為美滿。1788年，馬歇爾被選為美國聯(lián)邦憲法會議的代表。但是，馬歇爾有些孤芳自賞，對仕途并不過于感興趣。馬歇爾曾經(jīng)拒絕出任聯(lián)邦檢察長和駐法公使等要職。1798年，他被當(dāng)選為美國眾議院議員。在眾議院議員的任期內(nèi)，他曾參加過許多有關(guān)憲法的辯論會，他的發(fā)言以“鞭辟入微、立論精當(dāng)”著稱。1800年，馬歇爾被亞當(dāng)斯總統(tǒng)任命為國務(wù)卿。次年2月，又改任為聯(lián)邦最高法院院長，持續(xù)任職一直到1835年去世為止。

馬歇爾主審過眾多對美國聯(lián)邦憲法體系的確立和民事司法制度的建構(gòu)具有重大意義的案件。例如，在1803年Marburyv.Madison案中確立了聯(lián)邦最高法院的司法審查權(quán)；在1810年Fletcherv.Peck案中確立了州法律與聯(lián)邦法律沖突時無效的原則；在1816年Martinv.Hunteru2019s Lessee案中確立了聯(lián)邦最高法院對州法院判決的審查權(quán)；在1819年Dartmouth Collegev.Woodward案中確立了契約保護(hù)原則，并對法人概念進(jìn)行了經(jīng)典論述；在1819年McCullochv.state of Maryland案中確立了國會有建立國家銀行的“默示權(quán)力”；在1821年Cohensv.Virginia案中確立了聯(lián)邦最高法院對州法院的聯(lián)邦管轄權(quán)；在1824年Gibbonv.Ogden案中確立了聯(lián)邦政府對州際貿(mào)易的管轄權(quán)；在1827年Martinv.Mott案中否定了州政府保有免除兵役的權(quán)力。這些判例對研究美國早期法制具有極高學(xué)術(shù)價值。

馬歇爾是美國聯(lián)邦最高法院任職時間最長的首席大法官，被譽(yù)為“常青樹”。受布萊克斯通《英國法釋義》的影響，他積極倡導(dǎo)美國聯(lián)邦最高法院的大法官們撰寫案例評注，并親自為其任內(nèi)審判過的1106個案件中的519個案件撰寫評注，推動了美國判例法的形成。

馬歇爾的名字緊緊地和美國最高法院和美國憲法聯(lián)系在一起。確實，正是在馬歇爾的領(lǐng)導(dǎo)下，最高法院引導(dǎo)了美國的聯(lián)邦政府，并給予它發(fā)展和工作的手段。

一位美國學(xué)者非常精辟地概括了馬歇爾的司法理念：“在其漫長的法官生涯中，有兩個持久不變的概念主導(dǎo)著馬歇爾：一是聯(lián)邦國家的主權(quán)，二是私有財產(chǎn)的神圣�！笨恐�這兩個觀念，馬歇爾堅韌不撥，披荊斬棘，終于把最高法院確立為美國憲法的最終解釋者，并利用這一角色為美國的強(qiáng)大奠定了法治的基礎(chǔ)。