同治元年（1862）入淮軍赴上海。次年轉(zhuǎn)戰(zhàn)江蘇福山、太倉和浙江的嘉善等地，鎮(zhèn)壓太平軍；后又馳聘蘇、皖、魯、豫、鄂五省壓捻軍。授江蘇按察使、山西布政使（未到任）、江西布政使。光緒元年（1875）任江西巡撫，光緒四年（1878）以乞終養(yǎng)老母辭職回家農(nóng)桑。

光緒八年（1882）又被起用，任浙江巡撫，當法軍侵占越南，繼而侵犯我東南沿海時，他于寧波設(shè)立海防營務(wù)處，加強統(tǒng)一調(diào)遣，布置沿海防務(wù)，沿岸筑長墻、置地雷、封海口，以所有兵輪據(jù)險設(shè)防。光緒十一年（1885）三月，法艦突入跤門，他命守備發(fā)巨炮，擊傷法船兩艘，法艦敗逃金塘山。幾天后，法艦又進犯虎蹲山北，再痛擊之，火炮擊中要艦，法將迷祿當即斃命，法艦倉惶馳逃，不敢再犯。但法軍賊心不死，后以小輪竄犯寶山口，他命守將選勇突起擊之，法軍傷亡慘重。鎮(zhèn)海之役，計擊沉法艦一艘，重創(chuàng)三艘，火輪、小船多只，給侵略者以沉重的打擊。

光緒十二年（1886），劉秉璋任四川總督，查辦遺留的“重慶教案”。因美、英教會強行占地建教堂，民眾反對，教會組織武裝殺傷30余人，激起公憤反教會，焚毀教學，散發(fā)傳單，揭露美、英幫助日本侵略中國的罪行，使美、英教會更為不滿，關(guān)殺兒童和民眾。

洋人踐踏中國主權(quán)，激起川西11縣民眾起來反教會。劉秉璋在查處中，處死殺人兇手和鬧事首領(lǐng)，未鎮(zhèn)壓群眾，美、英教士不滿，紛紛致電總署，要求懲辦秉璋，腐敗無能的清廷迫于英、美、法公使要挾，將劉秉璋罷官歸里，光緒三十一年（1905）病逝。

逝后，由于兩江總督周馥的疏奏，清廷準其“復(fù)官，予優(yōu)恤，建祠”。