土地革命戰(zhàn)爭時期，任紅四軍第十師通信排排長，紅三十軍第九十師警通隊隊長。1935年任紅四方面軍三十軍第九十師獨立營副營長，參加了長征。1936年11月進入紅軍大學(xué)學(xué)習(xí)，后入甘肅慶陽步兵學(xué)校學(xué)習(xí)；

抗日戰(zhàn)爭時期，任八路軍一二九師三八六旅七七二團連長，一二○師三五九旅七一九團營副政治教導(dǎo)員，團政治處宣教股股長。1944年隨八路軍南下支隊第一梯隊進軍湘粵邊，繼轉(zhuǎn)入鄂南，在通城等地開展游擊戰(zhàn)爭；

解放戰(zhàn)爭時期，于俠先后任隨（縣）棗（陽）獨立團政委、中原軍區(qū)三五九旅特務(wù)團副政治委員，1946年6月，國民黨以30萬兵力包圍中原軍區(qū)，妄圖圍殲我6萬中原軍區(qū)部隊。于俠率特務(wù)團隨三五九旅為右路軍向西突圍，歷時63天，穿越30余縣，血戰(zhàn)90多次，勝利到達(dá)陜北。1947年12月，率三團挺進晉南，參加了運城戰(zhàn)役，殲敵1個保安團，俘敵800余人。戰(zhàn)后，調(diào)任西北野戰(zhàn)軍第二縱隊六旅十八團政委，后任團長。西北野戰(zhàn)軍第二縱隊六師十八團政治委員，團長。參加了宜川、西府、隴東、澄郃、荔北、扶眉等戰(zhàn)役；

中華人民共和國成立后，于俠率部進入新疆，先后擔(dān)任一野二軍六師副師長、師長兼焉耆軍分區(qū)司令員，不分晝夜地投入到艱苦的剿匪斗爭和改造起義部隊的工作中，取得顯著成績。1954年進入南京軍事院校學(xué)習(xí)，1958年任海軍高級�？茖W(xué)校副校長，1960年任海軍潛艇學(xué)校校長。1978年后任海軍潛艇學(xué)校顧問、北海艦隊司令部正軍職顧問。2002年5月30日病逝于青島。

1964年被授予少將軍銜。