原為右賢王，漢光和二年(179年)秋七月，匈奴中郎將張修（袁宏《后漢紀(jì)》作純脩）擅自收斬原單于呼微（袁宏《后漢紀(jì)》作呼演、《后漢書·靈帝紀(jì)注》作呼征），更立羌渠為單于。

漢中平四年(187年)，東漢前中山相張純反叛，漢靈帝詔令征發(fā)南匈奴出兵配合平叛，羌渠派遣其子左賢王於夫羅率兵前往。而國人擔(dān)心征發(fā)軍隊的事不會停止，所以有十萬人反叛，攻殺羌渠。羌渠共立十年，國人擔(dān)心會召報復(fù)，另外擁立須卜骨都侯為單于。於夫羅回不去，只好留在河?xùn)|郡一帶。