1894年，中日甲午戰(zhàn)爭(zhēng)，中國戰(zhàn)敗。高憤鴻章誤國，曾與另外六大臣共上奏折彈劾李鴻章，稱“李身為北洋大臣.....不修戰(zhàn)備,不求將才,唯專以婿女是務(wù)”,要求對(duì)李“并加懲處，以儆將來”。1898年3月，喪失主權(quán)的中俄《旅大租地條約》簽訂。高對(duì)此極為憤慨即與華舟云，王佑辟等聯(lián)袂入乾清門伏厥痛哭，請(qǐng)求拒俄變法。同年，康有為為變法上書光緒帝，當(dāng)事者惡其伉直，不為代奏。時(shí)高任兵部掌印給事中，見起書，嘆其忠，乃上疏光緒帝力薦，請(qǐng)求委康以要職。此舉在清庭官吏中尚屬首次，清朝一時(shí)傳為美談。高熱愛鄉(xiāng)梓，曾捐俸在故里修建學(xué)屋供家鄉(xiāng)子弟就讀，對(duì)家鄉(xiāng)貧苦士民亦常盡力相租。雖居官數(shù)十年，告老時(shí)，惟三四架書籍相伴以度晚年。1917年6月病逝。