佐賀藩的足輕百武庭藏的第五子。三哥天皇侍從長(zhǎng)、海軍大將百武三郎，六弟陸軍中將，第17軍司令百武晴吉。少年時(shí)代的志向是當(dāng)個(gè)農(nóng)場(chǎng)主，不過(guò)他在海軍學(xué)校學(xué)習(xí)的四哥百武幸治病死后，他繼承幸治的遺志當(dāng)了海軍。經(jīng)過(guò)佐賀初中，海軍補(bǔ)習(xí)學(xué)校，1902年12月江田島海軍兵學(xué)校30期首席畢業(yè)。是30期唯一后來(lái)晉升的大將的人物。

結(jié)束遠(yuǎn)洋航海實(shí)習(xí)后，1903年自9月到「三笠」乘組，擔(dān)任主炮觀測(cè)員。翌年3月加藤寬治少佐擔(dān)任三笠炮術(shù)長(zhǎng)，1904年8月10日的黃海海戰(zhàn)中，三笠主炮的一發(fā)炮彈陰差陽(yáng)錯(cuò)的炸死了俄國(guó)太平洋艦隊(duì)的司令維佐弗特少將，決定了這場(chǎng)海戰(zhàn)的勝敗，百武源吾對(duì)加藤精準(zhǔn)的炮術(shù)大為贊嘆。兩人從此成為好朋友。

10月改乘韓崎丸號(hào)，12月改乘富士級(jí)戰(zhàn)列艦對(duì)馬海戰(zhàn)。戰(zhàn)后擔(dān)任千代田號(hào)、香取號(hào)、富士號(hào)分隊(duì)長(zhǎng)，磐城號(hào)航海長(zhǎng)提高了本領(lǐng)。1907年炮術(shù)學(xué)校特修，1908年海軍大學(xué)乙種學(xué)習(xí)，1911年時(shí)海軍大學(xué)甲種，大尉時(shí)代一邊工作一邊在學(xué)校接受教育。

1913年時(shí)兼任了軍令部參謀、教育本部第2成員。1915年起留學(xué)美國(guó)兩年。詳細(xì)研究了美國(guó)的國(guó)情，發(fā)現(xiàn)海軍以美國(guó)為假想敵是個(gè)魯莽的主張，堅(jiān)定了推進(jìn)對(duì)美協(xié)調(diào)線路的決心。回國(guó)擔(dān)任海軍大學(xué)教官的時(shí)候，對(duì)學(xué)生講述了對(duì)美協(xié)調(diào)的重要性，不過(guò)，血?dú)夥戒摰膶W(xué)生不愿接受，反而說(shuō)：百武教官是個(gè)恐美主義者。

1921年第一次擔(dān)任艦長(zhǎng)工作，擔(dān)任多摩號(hào)輕巡洋艦大佐艦長(zhǎng)。在英國(guó)的愛(ài)德華王太子的訪日的時(shí)候，擔(dān)任天皇的座艦，在下關(guān)停泊中，和運(yùn)炭船劇烈碰撞，導(dǎo)致運(yùn)煤船沉沒(méi)，經(jīng)過(guò)軍事法庭審查無(wú)罪，「多摩」艦長(zhǎng)時(shí)代對(duì)百武來(lái)說(shuō)是個(gè)動(dòng)蕩的時(shí)期。他在任期中生的第七個(gè)女兒命名為「多摩子」。他的親哥哥百武三郎少將是他的直屬的上司的第3戰(zhàn)隊(duì)司令官。從那以后，兄弟不在同一個(gè)部隊(duì)就成為日本海軍的新規(guī)定。

以后歷任春日號(hào)艦長(zhǎng)、教育局第1科長(zhǎng)、軍令部參謀，1925年擔(dān)任國(guó)際聯(lián)盟裁軍會(huì)議海軍代表，主張對(duì)外協(xié)調(diào)線路。回國(guó)后擔(dān)任海軍大學(xué)教導(dǎo)主任，向?qū)W生們宣揚(yáng)裁軍和和平共處�？墒橇硪环矫�，軍令部上層和陸軍，常常對(duì)協(xié)調(diào)外交進(jìn)行排斥。

1927年時(shí)就任軍令部第1班長(zhǎng)，百武這時(shí)出現(xiàn)乖僻的個(gè)性，毀掉了他的前程。他本來(lái)和加藤寬治是朋友，但是再次相見(jiàn)了的時(shí)候卻怨恨加藤?zèng)]有提他是中彈觀測(cè)員的事，喝了酒以后在部下面前辱罵加藤薄情。本來(lái)打算讓他當(dāng)軍令部次長(zhǎng)的，因?yàn)檫@個(gè)事就泡湯了。濟(jì)南事變時(shí)他出頭要求陸軍立即從濟(jì)南撤兵，和當(dāng)時(shí)參謀本部作戰(zhàn)部長(zhǎng)荒木貞夫吵了起來(lái)。滿洲事變時(shí)源吉是軍令部次長(zhǎng)，又沖到關(guān)東軍那兒去，結(jié)果被關(guān)東軍司令官本莊繁拒絕見(jiàn)面，吃了碗閉門羹。

1929年作為第5戰(zhàn)隊(duì)司令官離開軍令部，1931年10月因?yàn)榍址附y(tǒng)帥權(quán)問(wèn)題，末次信正被免職，百武就任了軍令部次長(zhǎng)。當(dāng)時(shí)的軍令部長(zhǎng)也由加藤寬治換成谷口尚真大將,不過(guò)，谷口與百武在軍令內(nèi)部評(píng)價(jià)不好。作為條約派軍官他們兩人在第二年2月一起被解職。艦隊(duì)派的總后臺(tái)伏見(jiàn)宮博恭王元帥成了海軍軍令部總長(zhǎng)。

以后的百武，在1932年2月任海軍大學(xué)校長(zhǎng)，10月練習(xí)艦隊(duì)司令官，1933年9月舞鶴要港部司令官，1934年11月成為第3艦隊(duì)司令長(zhǎng)官，1935年12月佐世保鎮(zhèn)守府司令長(zhǎng)官，1936年3月艦政本部長(zhǎng)，盡當(dāng)些與海軍省和軍令部無(wú)關(guān)的工作。作為練習(xí)艦隊(duì)司令官訪問(wèn)美國(guó)的時(shí)候作為親美派的提督在各地接受了歡迎。一方作為長(zhǎng)官他有許多史無(wú)前例的舉動(dòng)，讓幕僚很困惑。

1936年2月?lián)�任橫須賀鎮(zhèn)守府司令長(zhǎng)官，1937年4月晉升大將，轉(zhuǎn)任軍事參議官，在1941年的陸海軍軍參議官中只有他一人反對(duì)開戰(zhàn)，堅(jiān)持對(duì)美協(xié)調(diào)。從序位來(lái)看他擔(dān)任軍令部總長(zhǎng)的可能性很高，為了阻止他專門把身體不好的永野修身抬出來(lái)壓制他，第二年7月就把他編入預(yù)備役，從海軍放逐出去。

被趕出海軍的百武在信濃河邊的魚村隱居，過(guò)著悠閑自得的生活，1945年4月九州帝國(guó)大學(xué)工程系為逃避征兵，當(dāng)算外聘一名有影響力軍人當(dāng)校長(zhǎng)，他被野村吉三郎說(shuō)服，擔(dān)當(dāng)了這個(gè)職務(wù)，和西部軍區(qū)談判，把被征兵的大學(xué)生都弄回學(xué)校搞軍訓(xùn)，避免了這些學(xué)生上戰(zhàn)場(chǎng)送死，日本投降后他才辭去這個(gè)職務(wù)。1976年死去，是海兵學(xué)校30屆生186名最后死去的。