山口縣人，長州藩士山口義惟長子。曾作為奇兵隊參加戊辰戰(zhàn)爭。1870年9月入大阪陸軍教導團，1871年8月11日初任陸軍少尉。1973年晉升少佐，近衛(wèi)步兵第1聯(lián)隊大隊長，參加平定佐賀之亂和西南戰(zhàn)爭，戰(zhàn)后任步兵第9聯(lián)隊長，步兵第7聯(lián)隊長，1882年2月晉升大佐，熊本鎮(zhèn)臺參謀長，1885年東京鎮(zhèn)臺參謀長，1886年近衛(wèi)軍參謀長，1887年9月到美國、德國考察軍事，第二年6月歸國，1889年代理步兵第10旅團長。1890年2月12日晉升陸軍少將，任步兵第10旅團長，12月5日改任步兵第3旅團長。甲午中日戰(zhàn)爭時在佐久間左馬太的第二師團編成內(nèi)參戰(zhàn)，1895年1月15日在山東榮成登陸，進犯威海衛(wèi)，1月30日擊潰戴宗騫部，奪取了南幫炮臺，2月17日北洋艦隊投降，8月20日封男爵。1896年10月14日晉升陸軍中將，任第五師團長。1900年6月26率部出征中國，參加八國聯(lián)軍，鎮(zhèn)壓義和團。攻陷北京后因紀律相對還好，因此后來被慈禧太后大肆封賞，也成為戰(zhàn)爭史上的一項奇聞。1901年7月19日授予勛一等旭日大綬章。1904年3月17日晉升陸軍大將，升子爵，任軍事參議官，8月7日去世，葬東京都青山陵園。曾獲二級金鵄勛章。養(yǎng)子陸軍少將山口十八子爵（陸士11，陸大21）。