樋口兼光是木曾義仲乳母之子，他和弟弟今井兼平一起出仕木曾義仲，以木曾義仲的忠臣而聞名于世。承治元年（1180年） 義仲舉兵時即左右相隨、在各地轉(zhuǎn)戰(zhàn)。壽永2年（1183年）在 俱利伽羅峠之戰(zhàn)等戰(zhàn)役立下斷絕平氏大軍后路的戰(zhàn)功。1183年7月隨木曾義仲攻入京都。1183年10月木曾義仲奉后白河法皇的命令率軍進攻逃到關(guān)西的平氏政權(quán)，樋口兼光受命留守京都監(jiān)視后白河法皇。在后白河法皇和木曾義仲對立期間，樋口兼光隨軍在法住寺之戰(zhàn)中拘捕后白河法皇。

元歷元年（1184年）正月木曾義仲率軍向河內(nèi)國石川進發(fā)，討伐反叛自己的源行家、源義資。在此期間從關(guān)東出發(fā)進攻木曾義仲的鐮倉軍，從背后向木曾義仲發(fā)起了襲擊。粟津之戰(zhàn)中木曾義仲戰(zhàn)敗身死。第二天由于得到木曾義仲身死的消息，而向京都撤退的樋口兼光被源義經(jīng)部隊抓獲。正月26日樋口兼光和木曾義仲的首級一起被移交給檢非違使。2月2日在源賴朝的命令之下，由涉谷高重行刑斬首。當(dāng)時 源范賴和 源義經(jīng)都曾為他求情未果。

此外，日本戰(zhàn)國時代 上杉景勝著名的軍師 直江兼續(xù)(本名樋口兼續(xù))即為他的子孫。