劉芳貴因家境貧寒，被迫輟學(xué)投軍。他先是服務(wù)于奉軍，講武堂畢業(yè)后在劉珍年麾下效力。1926年劉珍年改投張宗昌，劉芳貴跟隨行動(dòng)，由此脫離奉軍。此后劉珍年在膠東站穩(wěn)腳跟，官至第21師師長(zhǎng)，劉芳貴也因部隊(duì)擴(kuò)編而升至中校團(tuán)附。第21師于1934年11月被中央收編后，劉芳貴轉(zhuǎn)而支持新任師長(zhǎng)李仙洲，并因戰(zhàn)功，被李仙洲提拔為第122團(tuán)上校團(tuán)長(zhǎng)。

1937年7月抗戰(zhàn)全面爆發(fā)前夕，劉芳貴隨部開赴綏德布防。待抗戰(zhàn)全面爆發(fā)時(shí)，第21師于8月馳援南口。劉芳貴的122團(tuán)作為先頭部隊(duì)于8月15日趕到戰(zhàn)場(chǎng)，先歸第89師參謀長(zhǎng)吳紹周指揮，旋又配屬給第4師第10旅，歸旅長(zhǎng)馬勵(lì)武指揮。8月17日，由第10旅據(jù)守在西岔口的幾個(gè)碉堡被日軍獨(dú)立混成第11旅團(tuán)（旅團(tuán)長(zhǎng)鈴木重康）獨(dú)立步兵第12聯(lián)隊(duì)（聯(lián)隊(duì)長(zhǎng)奈良晃）一部攻占，馬旅長(zhǎng)命令劉團(tuán)奪回碉堡。劉團(tuán)經(jīng)兩晝夜猛攻，沒能完成任務(wù)。19日凌晨，劉芳貴借大霧彌漫的機(jī)會(huì)親率第2營(yíng)再次發(fā)起進(jìn)攻。上午十時(shí)許，劉芳貴在指揮部隊(duì)沖鋒時(shí)，不幸腹部中彈身受重傷。劉芳貴被緊急送往大同醫(yī)院搶救，因傷及要害搶救無效，于當(dāng)天傍晚去世。

劉芳貴殉國(guó)后葬于山西榆次，1953年3月移回臨清老家埋葬。