原任知縣。光緒五年（1879年），當(dāng) 冀州知州。再二年升為永平知府。十年后（1884年）擔(dān)任任廣西按察使。 中法戰(zhàn)爭時，李秉衡主持龍州西運(yùn)局。隔年和 馮子材獲得“諒山大捷”。彭玉麟 奏言：“兩臣忠直，同得民心，亦同功最盛”。光緒20年5月?lián)�任安�?巡撫。

光緒二十年五月授為安徽巡撫。 甲午戰(zhàn)爭爆發(fā)后，清廷調(diào)李秉衡為山東巡撫。

日軍第二軍在 花園口登陸后， 旅順防務(wù)吃緊。清廷命已于十月移駐煙臺的李秉衡派兵增援，李卻“專顧一隅”。山東省群吏曾請求“增募二十營以塞登萊諸�？凇保�李秉街堅(jiān)執(zhí)不許。十一月四日，清廷再命派四營“即日撥隊(duì)前住”、但緩不濟(jì)急。十二月十三日，海城陷后，李秉衡方令登州鎮(zhèn)總兵 章高元“率所部 嵩武軍北渡赴營口援遼東”。

光緒二十一年一月十二日，清廷聞日軍有進(jìn)攻威海之說，電渝 李鴻章、李秉衡“飛飭各 防軍，晝夜 逡巡，實(shí)力嚴(yán)防，不得稍有疏懈”。十八日，李秉衡電疏：威海后路“情形均屬萬緊，惟有就現(xiàn)有兵力，分布各島口，囑飭各營晝夜逡巡瞭望，無敢疏虞�！钡�是實(shí)際上并未認(rèn)真采取 積極防御措施，甚至把兵力零星分布在東起 成山角、 榮成，西至 寧海、煙臺，“共三百里之遙”的漫長防線上，不分主次，分兵把口，致使防務(wù)薄弱。日軍在榮成灣登陸后，李秉衡不敢按原議抽 威海衛(wèi)后路二分之一的兵力馳援前線，只派 孫萬齡等少數(shù)軍隊(duì)前往迎敵。二十五日，日軍攻陷榮成，李秉衡自請 交部議處。并再電朝廷，報(bào)告“賊勢太眾，威太危，煙亦岌岌”；說明“兵太單”、“營少勢難措手”的苦衷，要求將貴州 古州鎮(zhèn) 總兵 丁槐所部五營截留，奏請俯準(zhǔn)。飭令 提督 董福祥帶所部各營，星夜開拔至山東，以便“合力防剿”。此議已得朝廷照準(zhǔn)。但是，援兵遲遲不達(dá)。不久，威海衛(wèi)南幫炮臺失陷。三十日。清廷曾電諭 李鴻章、李秉衡：煙臺為“通商口岸，防務(wù)較緩”，調(diào)孫金彪率軍前赴威海協(xié)防，李秉衡卻以“煙守將只孫金彪一人，若再調(diào)往，無人 守御，煙臺必�！倍�拒絕。李秉衡僅派軍扼守 威海西路，對于威海的戰(zhàn)事不聞不問。二月三日，日軍進(jìn)占威海衛(wèi)城和北幫炮臺。李秉衡請旨將自己“交部 嚴(yán)加議處”，電奏中稱：威海已失， 登州、煙臺必為日軍所爭，“秉衡即死守?zé)熍_，于大局毫無補(bǔ)救，獲罪滋大。目前統(tǒng)籌全局，似應(yīng)移扼 萊州（今 掖縣）一帶，催集援兵，自西而東，節(jié)節(jié)進(jìn)規(guī)，以固省城門戶，以顧南北大局�！�

二月九日李秉衡至黃縣，十二日退駐萊州。他告訴 丁汝昌自己已移扎萊州，防威海之兵亦徑退萊州。不久威海失， 北洋水師覆滅，與李秉衡“目擊 劉公島危急，不克救援”有密切關(guān)系。外國觀戰(zhàn)記者肯寧咸在論述劉公島失守的原因時，認(rèn)為“本省巡撫（李秉衡）既按兵不動”，不“應(yīng)約發(fā)援兵”是重要原因。

二月二十五日，清軍收復(fù) 寧海州（今 牟平），二十七日收復(fù) 文登。李秉衡卻不令軍隊(duì)繼續(xù)收復(fù)失地，反于三月三日致電清廷說：山東軍力甚單“若深入恐賊抄截后路”。前線清軍奮勇抗戰(zhàn)，并于五日收復(fù) 榮成。李秉衡仍不敢令軍隊(duì)收復(fù)威海衛(wèi)城。

四月十九日，李秉衡聞日本欲割遼河以東、臺灣，索賠款一百兆兩之說“憂憤填膺”，披瀝上陳，建議皇上“乾綱獨(dú)斷，如被族要挾過甚，則絕其和議。勿為虛聲所恫喝，勿為浮議所搖惑，”繼續(xù)堅(jiān)持抵抗。并表示：“臣雖老怠，愿提一旅之師，以伸積憤，即捐糜頂踵亦所不惜”。但是《 馬關(guān)條約》還是簽訂了。四月二十五日李秉衡又上《奏和議要挾過甚萬難曲從折》，要求情廷“立絕和議，布告天下臣民并各和好與國，聲其欺侮要挾之罪，為萬國所不容，神人所共憤；以償兵費(fèi)之款養(yǎng)戰(zhàn)士，嚴(yán)敕各將帥督撫，效死一戰(zhàn)”。清廷不納，并于五月八日與日本互換《 馬關(guān)條約》。

縱觀李秉衡在甲午戰(zhàn)爭期間的作為，對于山東戰(zhàn)局起到了十分糟糕的負(fù)面作用。李秉衡不但有意遲緩各部在山東布防的速度，并且還有意將威海衛(wèi)軍港孤立于山東防御體系之外。當(dāng) 威海衛(wèi)遭到圍攻時，李秉衡不但不設(shè)法救援，更將從江蘇來援威海的一部清軍調(diào)作它用。其坐看威海，甚至是有意配合日軍圍攻威海的誤國乃至于可稱為賣國的行為已經(jīng)昭然若揭。

光緒二十三年（1897年），德國因 巨野教案而派兵強(qiáng)行進(jìn)入膠州灣，李秉衡認(rèn)為“土地不可自我而失”，派兵與其相爭，因此被罷黜，擔(dān)任四川總督，但未到任便因德國壓力而被罷免。光緒26年（1900年）擔(dān)任巡閱 長江水師大臣。 八國聯(lián)軍進(jìn)攻大沽后，李秉衡一度列名 張之洞、 劉坤一兩總督倡議的 東南互保，但隨后力請募兵入衛(wèi)京師，并在 慈禧太后召見時極力主戰(zhàn)；于是領(lǐng)四軍出戰(zhàn)，在 楊村（今 武清縣）兵潰，退至通州（今北京市 通州區(qū)）服毒自盡。 初謚忠節(jié)，隨后聯(lián)軍將李秉衡列入事變禍?zhǔn)�，要求�?yán)懲，清政府以秉衡先死而不予治罪，但下令追奪一切官職并撤銷恤典。

李秉衡當(dāng)初彈劾 衛(wèi)汝貴和 丁汝昌指揮不力可想過自己比之兩位被彈劾的將領(lǐng)，就如同無知小兒般無能？衛(wèi)汝貴在 平壤尚能親至城頭力戰(zhàn)，丁汝昌孤軍困守威海和 劉公島也有半月！而李秉衡接戰(zhàn)到敗退只用了半天不到！正所謂百步笑五十也！敗戰(zhàn)之后不思振作余部，在戰(zhàn)事還可以周旋的情況下服毒自殺，而丁汝昌和 劉步蟾均是在處于絕境的情況下自殺。

《 清史稿》：“秉衡清忠自矢，受命危難，大節(jié)凜然，此不能以成敗論也。聯(lián)軍之占津、海也，長驅(qū)而入，唯士成阻之；俄兵之侵龍江也，乘隙以進(jìn)，唯壽山拒之：固知必不能敵，誓以一死報(bào)耳。榮光爭大沽，鳳翔守 愛琿，雖已無救於大局，而至死不屈，外人亦為之奪氣，何其壯哉！”