他的父母都是愛爾蘭的移民，他們于1830年達到美國。之后謝里登一家就開始西部拓荒的歷程，全家搬到到了俄亥俄西部。一年后也就是1831年3月6日，謝里登出生，由于當時家庭拓荒情況，所以并不清楚其確切的出生地點。到了1848年，謝里丹獲得其父親老友國會議員里奇的推薦而得以進入西點軍校騎兵科。學習期間，表現(xiàn)中軌中距，畢業(yè)時謝爾丹位列全班52人中的第34名。另外，由于謝爾丹矮小的身材（大約1.65公尺左右），得到了一個“小菲爾”的外號，以至日后這個外號一直伴隨其軍旅生涯。不過和其身材相比，謝爾登的脾氣卻一點也不小，甚至可以說是暴躁。在校期間就以向模樣魁梧學生挑戰(zhàn)而出名，常常為了些許口角而大大出手。 畢業(yè)后，謝爾丹卻由于騎兵部隊縮編，被作為步兵少尉而派到駐守德克薩斯鄧肯要塞的第一步兵團。1855年被轉調至加州的第4步兵團，次年又被派至俄勒岡的負責監(jiān)視當?shù)赜〉匕膊柯涞膭酉�，并同時被提升為中尉。

1861年戰(zhàn)爭爆發(fā)后，謝里登馬上就被提升為上尉，并返回了久違的騎兵部隊。作為西部拓荒者的兒子，謝里丹從小就在馬背上長大，對騎馬也是很喜愛，騎術也自然是高超。這對其日后騎兵生涯有著極大的幫助。同年9月被召至西部戰(zhàn)線的圣路易斯市。最初謝里丹被命令負責哈勒科將軍的軍需后勤工作。不過，事實證明謝里登在前線戰(zhàn)場發(fā)揮的作用遠遠大過其在后勤任務上的貢獻，于是其又被調至柯蒂斯將軍麾下準備加入于密蘇里南部對南軍的作戰(zhàn)。就在戰(zhàn)役即將發(fā)動之時，謝爾曼結識這位小個子的俄亥俄老鄉(xiāng)，并很器重他的才能。隨即推薦謝里登去負責指揮新組建俄亥俄志愿步兵團，不過這個提議被否決。不過，這并不意味著謝里登的壞運氣，實際上恰恰是其輝煌生涯的開始。1862年5月，謝里登被任命為密歇根第2騎兵團指揮，由此一夜之間從上尉越級晉升上校。

在成為團長后兩個月，謝里丹開始勒他真正的戰(zhàn)斗。當時兵力接近6，000人南軍一個師的人馬企圖將在密歇根州波恩維爾駐守作為前哨的謝里登趕回北面去，而此時謝里丹手里之后不足900人。面對數(shù)倍于自己的南軍，謝里丹玩一個障眼法的計策。其命令他的一部分部隊，背著全部裝備在波恩維爾的火車站集結。隨即命令登上站臺邊的列車，隨即不久又讓他們全體再下車，接著大張旗鼓地走出車站。在波恩維爾鎮(zhèn)內招搖一圈后，又悄悄返回車站，再上車下車地重演一遍，以期制造援軍不斷抵達的假象。而南軍指揮查拉莫斯也真是被這個假象所迷惑，遲遲沒有對謝里丹發(fā)動進攻。期間謝里丹指揮他的騎兵部隊在當?shù)爻浞掷�用這寶貴的時間修筑了堅固防御工事。等到查拉莫斯下決心攻擊時，謝里丹已經作好了充分準備。而其部隊最新裝備的后膛來復槍也發(fā)揮了巨大作用，同時由于對北軍兵力的疑惑也讓南軍難以毫無顧及地放手一戰(zhàn)，結果南軍在謝里丹精心安排的防線面前碰得頭破血流。謝里丹至此初戰(zhàn)告捷，事后因為他的機智和毅力被提升為準將，而此時謝里登剛剛31歲。之后，謝里登被調往田納西首府納施維爾以南的石河羅斯瑟恩斯將軍的部隊。謝里丹同樣出色地以少數(shù)騎兵部隊成功牽制住了南方的大軍，領著布拉格將軍的一萬多南軍在納施威爾附近捉了一個多月的迷藏，直到各路北軍開赴戰(zhàn)場。在這兩次成功的行動后，謝爾登的聲名在西線被廣為流傳，也成了南軍極為頭痛的人物。

1863年4月，謝里丹晉升少將，并隨同格蘭特和謝爾曼在田納西參加了切卡茅加戰(zhàn)役同樣是大獲成功。他的騎兵從側翼橫掃了南軍陣線，并對敗退的敵軍實施了有效的追擊，俘虜將近8，000人。此時的謝爾丹已經是北軍在西部戰(zhàn)場最為優(yōu)秀的騎兵將領，并得到尤里西斯·辛普森·格蘭特的賞識，以成為了其的心腹之一。

1864年4月，格蘭特被任命為聯(lián)邦軍總司令，并前往了東部。而謝爾丹也被其召到了華盛頓，被正式任命為波特馬克軍團騎兵總司令。謝爾丹攜著在西部取得崇高榮譽，自信滿滿地投入東部戰(zhàn)場。而北軍也普遍期待謝爾登能夠繼約翰·巴富德之后成為北方另一個偉大的騎兵將領。然而，謝爾登也將面臨和西部完全不同的挑戰(zhàn)。

在5月展開的冷港戰(zhàn)役中，謝爾丹的部隊成功搶占了通向老冷港的路口控制權，這使北軍有了可以從東南方運動從而威脅皮特斯堡以及里士滿的機會，這同樣也是提供了北軍迂回了李的北弗杰尼亞軍團的機會。謝爾登和南軍費茨-李指揮的騎兵部隊展開了兩軍的第一次戰(zhàn)斗，謝爾登順利擊潰了南軍占據(jù)了路口。為了重奪路口，南軍安德森下屬的一個師發(fā)動了反撲。結果，卻又被謝爾登趕了回去，在此處堅守了兩日，直到格蘭特的援軍抵達。雖然，北軍最后很凄慘地輸?shù)袅诉@一仗，但是謝里登的表演依舊十分搶眼，更重要的是保證了通向彼得堡大路的暢通，為北軍爭取了極佳的戰(zhàn)略態(tài)勢。隨后又和南軍的厄爾部在里士滿與彼得堡之間展開漫長的拉鋸戰(zhàn)。而在黃客站戰(zhàn)役中，謝爾丹如愿以償?shù)睾湍戏阶畛錾�騎兵將領詹姆士·埃韋爾·布朗·斯圖亞特交手，在亂軍中斯圖亞特重傷落馬（戰(zhàn)役后不治），謝爾登乘此機會成功擊退了南軍，兵臨里士滿城下。1865年4月1日，其又和南軍名將喬治·皮吉特在五岔口戰(zhàn)役中交手。當時北軍計劃是以謝里丹的騎兵吸引皮吉特注意，引誘其離開自己的戰(zhàn)線，隨后第五軍對皮吉特暴露的左翼展開攻擊。作戰(zhàn)中，謝里丹的誘敵行動很成功，然而第五軍的攻擊卻很遲緩，攻擊的時間和位置都不是謝爾登所計劃的。盡管如此，北軍的側擊還是出乎南軍的意料，皮吉特隨即遭到慘敗。結果，北軍以800人的傷亡擊破了李的最后防線，皮吉特損失了近4，000人。格蘭特對這個勝利表現(xiàn)的很興奮，隨即下令對南軍發(fā)動了最后的全面突擊。這一戰(zhàn)成為可南軍最后一次抵抗，也是李最后希望的破滅，他的防御已經徹底崩潰了。4月9日，羅伯特·愛德華·李在阿托克馬斯和格蘭特正式簽署了投降協(xié)議。當時，謝里丹也在場，成為了這一歷史時刻的見證人，當時他剛剛34歲，卻已經是格蘭特的左膀右臂了。

內戰(zhàn)結束后，謝里丹被調往德克薩斯負責當?shù)胤绖眨�尤其是監(jiān)視墨西哥境內混亂的局面。當時法國的拿破侖三世正在插手墨西哥事務并與當?shù)匚溲b陷入戰(zhàn)斗狀態(tài)。1867年，謝里登改任密西西比軍區(qū)司令，負責對于當?shù)貧堄嘤〉匕踩藙萘φ归_清理作戰(zhàn)，以其徹底征服。1869年，格蘭特入住白宮。和謝里曼一樣，作為格蘭特的嫡系人馬，謝里登也是被大大提拔。同年，謝里丹被晉升陸軍中將，成為芝加哥軍區(qū)司令。任內，謝里丹依舊是對西部印地安人展開了一系列清剿。而在這系列軍事行動里，謝里丹也成為了第一個發(fā)現(xiàn)今天黃石公園的白人，并在當時就支持將其納為國家公園。1870年，在自己力爭下，謝里登作為軍事觀察前往歐州，實地考察了徹底改變歐洲風貌的普法戰(zhàn)爭。謝里丹于1870年8月初抵達柏林。普王威廉（日后的德皇威廉一世）親自接待了這位年輕的內戰(zhàn)名將，隨即邀請謝里丹和普軍總指揮部一起行動。謝里丹也成為普軍總指揮部里的唯一個外國人，其隨著毛奇、奧托·馮·俾斯麥以及普王一路從普魯士殺到了法國境內。最后在色當目睹了法蘭西第二帝國的徹底失敗。也在凡爾賽宮目睹了德意志的統(tǒng)一和崛起。謝里登在這一連串不尋常經歷中，和普王威廉、毛奇以及俾斯麥都有了不錯的私交。而普軍優(yōu)秀的武器裝備、訓練素質以及強悍的戰(zhàn)術給謝里丹留下了極為深刻的印象，回國其一直在繼續(xù)推動美軍的現(xiàn)代化從而始終以歐洲的先進標準作為學習目標。

1871年10月，謝里丹在芝加哥大火期間也同樣表現(xiàn)出色。當時他果斷命令軍隊開入城內，全面接管芝加哥的管理，及時制止了搶劫和火災的蔓延。并大火熄滅后，一直指揮城中的重建和秩序恢復。1875年，已經44歲的謝里丹和盧克將軍的女兒艾玲結婚。1887年，謝里丹退休前夕，美國通過了新的軍銜劃分法案，謝里丹正式被授予陸軍四星上將軍銜。次年8月5日，由于嚴重的心臟病，謝里丹在密蘇里的納奎特（Nonqui）謝世。

作為一名軍人，謝里登是很優(yōu)秀的。其有著過人的膽量，在面對優(yōu)勢敵軍時，仍然能夠冷靜地加以對抗，乃至主動發(fā)起進攻。和內戰(zhàn)時期大多數(shù)將領不同，謝里登是那種比較善于靈活變通的指揮官，不會執(zhí)著于無效的攻擊或是死守某處。同樣也極為善于用些小花招迷惑對手，然后出其不意地突擊對手的致命弱點。謝里登是內戰(zhàn)期間南北雙方中第一流的騎兵將領，其戰(zhàn)績和晉升的速度恐怕也是在雙方戰(zhàn)將里空前的，這是約翰·巴福德和詹姆士·埃韋爾·布朗·斯圖亞特都無法相比。