白彥虎生于道光十年正月十五日（1830年2月8日）。他在起事前的生平缺乏記載，據中亞東干人后代口述，白彥虎的父親是官府小吏，兄長白彥龍考中武舉人，白彥虎的青少年時代是在北京度過的。道光二十九年（1849年），白彥虎被選為北京一個大區(qū)的宗教主管。后來白彥虎返回陜西家鄉(xiāng)，咸豐十一年（1861年）參加清軍。同治元年（1862年）太平天國扶王陳得才將入陜西，清政府組織“回勇”進行圍堵，后來這些回勇不遣自散，白彥虎也脫離了清軍。

咸豐年間，中國陸續(xù)爆發(fā)太平軍、捻軍、云南回民起義，清朝軍隊調往南方，以至關中防務成了真空。趁清政府平定地方叛亂地方空虛之機，陜西回民發(fā)動武裝起事。白彥虎參加了回軍，與清軍周旋轉戰(zhàn)于省城一帶，參加了圍攻涇陽縣城和攻打西安金勝寺等戰(zhàn)斗。

同治二年（1863年）九月，回軍在咸陽蘇家溝（今屬咸陽市渭城區(qū)）的據點被清軍占領后，白彥虎率領一部分回軍經禮泉、乾州（今乾縣）、邠州（今彬州市），到長武縣的白吉塬，打敗了清軍陜西提督雷正綰部。次年，清王朝派大批清軍進行圍剿，回軍被迫退至甘肅東部的董志塬，這時各路回軍開始聯(lián)合作戰(zhàn)。

同治五年（1866年）各路回軍按營地整編為十八大營，由于白彥虎作戰(zhàn)善用伏兵，被推舉為十八大營元帥之一。同治六年（1867年），乘駐陜清軍主力東渡黃河追剿西捻軍之機，白彥虎等率回軍殺回陜西。同治八年（1869年）三月回軍首領在董志塬聚會，改十八大營為四大營，白彥虎仍為元帥之一。不久，清軍攻陷董志塬，白彥虎等人率五十萬回民軍北上寧夏金積堡，依附哲合忍耶教主馬化龍，且返回陜西戰(zhàn)場發(fā)動攻勢。同治九年（1870年）冬，白彥虎率部撤至甘肅河州，后轉赴西寧與清軍激戰(zhàn)，并聯(lián)絡當地回族、撒拉族和卡力崗藏族軍隊繼續(xù)作戰(zhàn)。

同治十二年（1873年）七月，白彥虎率部抵達哈密，與維吾爾族頭目玉素皮聯(lián)合，攻占哈密王城。八月，清軍攻入回城，白彥虎擄哈密王邁哈默特之母至吐魯番，投靠了占據新疆的外來侵略者阿古柏。與阿古柏合流后，白彥虎將所部分為兩股，自率一股數千人于是年秋趨烏魯木齊、瑪納斯；另一股在哈密為清軍擊敗后，經布爾根河（今蒙古國境）、察罕通古（和布克賽爾東南）、科科墨頓（和布克賽爾西）、大拐和小拐（克拉瑪依東南），繞古爾班通古特沙漠一周，最后亦至瑪納斯與白彥虎會合。冬，白彥虎為駐守附近的清軍吉林、黑龍江馬隊擊敗。此后三年中，白彥虎活動于瑪納斯、烏魯木齊一帶，認為自己勢單力孤，有必要聯(lián)絡阿古柏，遂對阿古柏有求必應。

光緒二年（1876年）春，左宗棠派劉錦棠率主力出星星峽，揭開了收復新疆之役的序幕。閏五月，清軍部署于天山北路前沿陣地，歸附于阿古柏的馬人得踞烏魯木齊，白彥虎踞紅廟子，馬明踞古牧地（今米泉縣）。當清軍準備大舉出擊時，阿古柏將懷有“異心”的馬明逮往南疆，并令白彥虎移駐古牧地。清軍在進襲黃田后，于六月二十八日（8月17日）再克古牧地，全殲守敵約6000人。白彥虎當時不在城中，得免一死。二十九日黎明，清軍急速向烏魯木齊推進，白彥虎、馬人得等棄城向達坂方向逃跑。

當清軍從東面進擊的時候，署伊犁將軍榮全也督率北疆原有駐軍和民團圍攻瑪納斯（分南、北兩城），白彥虎部守將余小虎開北城東門南奔，與白彥虎合兵一處，踞南山小東溝，并派兵四處收割糧食，以充軍糧。七月初十日（8月28日），劉錦棠趨小東溝，白彥虎已于前一日逃至金口峽。十一日，清軍日行90里，追至金口峽，白彥虎卻早逃向托克遜。其時，阿古柏親至托克遜督戰(zhàn)，見來奔的白彥虎等勢力日蹙，對待他們非常傲慢，強迫他們剃辮易服。是冬，白彥虎受阿古柏之命，協(xié)助馬人得守吐魯番。阿古柏另派次子海古拉守托克遜，“大通哈”（意為大總管）愛伊德爾呼里守達坂，自己則退居喀喇沙爾以備策應。

光緒三年（1877年）春，劉錦棠率老湘軍自烏魯木齊攻占達坂；嵩武軍與蜀軍亦分別由哈密、巴里坤西進，連下七克騰木、辟展（今鄯善）及勝金口新筑土城，吐魯番門戶大開。白彥虎遂從城東向西遁走，在逃跑中燒殺搶掠，裹挾當地民眾，纏回（維吾爾族）都怨聲載道。白彥虎逃到喀喇沙爾后，曾參加阿古柏在這里召開的軍事會議，策劃如何繼續(xù)負隅頑抗。但隨著四月十六日（5月28日）阿古柏在庫爾勒暴死，偽政權陷于分崩離析。海古拉和另一軍事頭目艾克木汗先后西竄，白彥虎殘部則被留下駐守開都河西岸，以阻擋清軍。

面臨“樹倒猢猻散”的形勢，白彥虎自知無力抵御清軍的進攻，遂搶先劫掠百姓的秋糧，并掘開都河水為屏障，以致“漫流泛濫，闊可百余里”。在撤出喀喇沙爾后，白彥虎又派部將馬壯帶著所掠奪的財寶，探路俄國。九月初，白彥虎逃到庫車，擊敗當地人民的阻截，進入城內。但清軍隨后趕來，白彥虎等逃往拜城，城內民眾閉門拒守，白彥虎力攻不下，即率余部西逃。九月底，至喀什噶爾，已是“人不滿百，饑疲殊甚”，潰不成軍。十一月初二日（12月6日），阿古柏的大兒子伯克胡里從和田至喀什噶爾，與白彥虎會合進攻漢城（此時何步云據喀什噶爾漢城歸順清朝），數日不下。其時，清軍已分兵三路合擊喀什噶爾，白彥虎遂與伯克胡里分別率殘部逃入俄境，被安插在楚河邊上的托克馬克一帶。

白彥虎逃入俄羅斯帝國境內后，其余部曾多次分道騷擾清朝，搶糧餉，劫商旅，“戕官弁，殺行客，掠臺馬”，肆意騷擾。俄羅斯帝國從其政治需要出發(fā)，拒絕將白彥虎引渡給清政府，并準許進入俄境的白彥虎余部5年不納糧，20年不抽丁。光緒八年（1882年）秋，白彥虎死于托呼瑪克，終年五十三歲。

白彥虎開創(chuàng)了中亞東干人這一族群。離開新疆的白彥虎本來打算率部去阿拉伯，途中來到僅有數百人的納倫鎮(zhèn)，由于當時遭受到暴風雪的襲擊，到達后找不著糧食，只有煮樹葉、樹皮吃。鎮(zhèn)政府對不速之客的到來感到十分突然，經向上級請示后扣留了白彥虎部所攜帶的金銀財寶和武器。白彥虎認為這里不宜久居，決定向托克馬克前進，當到達納倫河邊時，卻發(fā)現無橋渡河。白彥虎強行命令隊伍踏冰過河，渡過河的幸存者，終于在中亞大地上得以繁衍生息，形成了今日的東干族，白彥虎被稱為“東干人之父”。沙俄七河省總督下令喀喇庫努斯東干村村民選舉“族長”。鄉(xiāng)民們對人選發(fā)生分歧。擁戴白彥虎者的稱 “亞克西”，持歧見者稱 “亞曼”，最后仍以白彥虎當選。

中亞東干人中流傳著“白彥虎殺嫂”的故事。白彥虎部隊進入新疆之后，由于生態(tài)條件惡劣，隊伍中傷病員太多，軍中人心不穩(wěn)，情緒低落。當白彥虎部隊走到吐魯番與烏魯木齊之間的一個駐地時，白彥虎的親嫂（白彥虎之兄白彥龍的妻子）在灶房做飯時大發(fā)牢騷，埋怨白彥虎不知要將他們帶向何處。她一邊往灶里填柴，一邊發(fā)牢騷。正好白彥虎身佩寶刀走到她身后，旁邊一批人為她捏了一把汗。她一見白彥虎，聲更高了，白彥虎一怒之下殺了親嫂。

傳說白彥虎在寧夏時，曾侵襲蒙古阿拉善親王的領地，并挖掘了皇姑墳（清室下嫁蒙古的格格的墳墓，也有說法是劫持了皇姑），導致他不敢像其他回軍領袖那樣“乞撫”，只好一直逃到境外。

網上流傳白彥虎曾蓄意挖掘黃帝陵，但于史無據，可能是挖掘皇姑墳之訛傳。