劉芳貴因家境貧寒，被迫輟學(xué)投軍。他先是服務(wù)于奉軍，講武堂畢業(yè)后在劉珍年麾下效力。1926年劉珍年改投張宗昌，劉芳貴跟隨行動，由此脫離奉軍。此后劉珍年在膠東站穩(wěn)腳跟，官至第21師師長，劉芳貴也因部隊擴編而升至中校團附。第21師于1934年11月被中央收編后，劉芳貴轉(zhuǎn)而支持新任師長李仙洲，并因戰(zhàn)功，被李仙洲提拔為第122團上校團長。

1937年7月抗戰(zhàn)全面爆發(fā)前夕，劉芳貴隨部開赴綏德布防。待抗戰(zhàn)全面爆發(fā)時，第21師于8月馳援南口。劉芳貴的122團作為先頭部隊于8月15日趕到戰(zhàn)場，先歸第89師參謀長吳紹周指揮，旋又配屬給第4師第10旅，歸旅長馬勵武指揮。8月17日，由第10旅據(jù)守在西岔口的幾個碉堡被日軍獨立混成第11旅團（旅團長鈴木重康）獨立步兵第12聯(lián)隊（聯(lián)隊長奈良晃）一部攻占，馬旅長命令劉團奪回碉堡。劉團經(jīng)兩晝夜猛攻，沒能完成任務(wù)。19日凌晨，劉芳貴借大霧彌漫的機會親率第2營再次發(fā)起進攻。上午十時許，劉芳貴在指揮部隊沖鋒時，不幸腹部中彈身受重傷。劉芳貴被緊急送往大同醫(yī)院搶救，因傷及要害搶救無效，于當(dāng)天傍晚去世。

劉芳貴殉國后葬于山西榆次，1953年3月移回臨清老家埋葬。