中統(tǒng)二年（1261），授中書省左右司郎中。至元元年（1264），參議中書省事。二年，佐平章趙璧行中書省事于南京、河南府、大名、順德、洺磁、彰德、懷孟等路，任簽行省事，實(shí)施罷世侯、行遷轉(zhuǎn)政策。三年，改領(lǐng)鷹坊，兼領(lǐng)中都路闌遺。四年，簽制國用使司。

五年，轉(zhuǎn)同簽河南行省事，時(shí)立元帥府領(lǐng)兵攻宋襄陽，別置行省掌簽軍、屯田、供餉諸事。次年，以駙馬忽剌出、左丞相史天澤出任行省平章，統(tǒng)籌攻宋事宜，阿里海牙專責(zé)入奏軍機(jī)。八年，授參知行省事。九年，兼漢軍都元帥，與劉整共掌漢軍，從蒙古軍都元帥阿術(shù)攻襄、樊，破樊城外郭，筑重圍困之。襄陽宋將張貴乘夜以船出城，順流突戰(zhàn)，阿術(shù)、阿里海牙令軍士于兩岸積薪舉火，照江如晝，率水師與戰(zhàn)，至柜門關(guān)，擒張貴。行省議攻取之策，與萬戶張弘范等皆言襄、樊唇齒相依，是以難破，宜先攻樊城，斷其聲援，則襄陽易取。十一月，赴京以此策入奏，獲準(zhǔn)；適回回人亦思馬因等自西域來獻(xiàn)所造巨石炮，遂請求以回回炮助攻，攜同亦思馬因等回軍中。十年初，攻破樊城；二月，移攻襄陽，仍發(fā)炮擊之，聲如雷霆，所中無不摧陷，守軍驚亂。劉整以前曾至襄陽城下說降守臣呂文煥，被伏弩所傷，因此主張

立毀其城俘文煥，阿里海牙不同意，自至城下再次勸降，謂：“君以孤城御我數(shù)年，今鳥飛路絕，帝實(shí)嘉能忠而主。信降，必尊官重賜以勸方來，終不仇汝置死所也。”并折箭為誓擔(dān)保，于是文煥出降，奉旨偕同入覲。四月，罷行省，分立荊湖、淮西二樞密院，真拜阿里海牙參知政事，與左丞相史天澤、平章阿術(shù)同行荊湖樞密院事，鎮(zhèn)襄陽。阿里海牙與劉整不和，詔命分領(lǐng)漢軍。十一年正月，阿里海牙奏言：“荊襄自古用武之地，漢水上流已為我有，順流長驅(qū)，宋必可平�！保ā对�史·世祖紀(jì)五》）并請?jiān)霰�十萬，分三道進(jìn)攻。世祖決意大舉攻宋，命丞相伯顏統(tǒng)軍。三月，改二行樞密院為二行省，升阿里海牙為右丞，與伯顏、史天澤、阿術(shù)及參政呂文煥同行省荊湖。九月，荊省諸軍發(fā)襄陽，順漢水而下，繞過防守堅(jiān)固的郢州，攻拔沙洋、新城，降復(fù)州，十二月四日，進(jìn)至漢口。宋淮西制置使夏貴等以戰(zhàn)船萬艘分據(jù)江邊諸隘，重點(diǎn)防守北岸要塞陽邏堡（即武磯堡），元軍攻三日不克。阿里海牙奉伯顏之命率張弘范等部繼續(xù)攻打陽邏，誘宋軍主力來援，使阿術(shù)軍得以出其不意從沙蕪口渡江占領(lǐng)青山磯，然后他乘宋軍軍心動(dòng)搖發(fā)起猛攻，遂破陽邏堡，宋鄂、漢江防完全崩潰，鄂州、漢陽守臣相繼獻(xiàn)城降。

伯顏、阿術(shù)率大軍沿江東進(jìn)，留阿里海牙仍行荊湖省事，領(lǐng)兵四萬鎮(zhèn)鄂州，以防遏上游，使東進(jìn)軍無后顧之憂。十二年二月，用簽省賈居貞之議，奏請乘勢攻取宋京湖制司首府江陵，以保鄂州安全，詔從之。三月，率師進(jìn)兵江陵，適宋湖北安撫副使兼知岳州高世杰集諸州軍二萬、戰(zhàn)船1600艘欲攻鄂，相遇于洞庭湖口，擊敗宋軍，世杰降，遣其招降岳州。四月，至沙市，以火攻破之，屠其城；遣人諭降江陵，宋京湖宣撫制置使朱祀孫、湖北安撫使高達(dá)等以城降，遂入江陵，遣使招降了湖北許多府、州，以所得戶口、財(cái)賦奏上，并請授降官官職。世祖原來擔(dān)心伯顏領(lǐng)兵東下，阿里海牙以孤軍戍鄂，如果宋人荊、蜀連兵順流而下，人民起而響應(yīng)，就將使整個(gè)滅宋戰(zhàn)略失敗。今見此“小北庭人”竟能占領(lǐng)全荊，從而使伯顏軍“可無后虞”，不覺大喜，親筆寫畏兀兒字詔褒賞之。五月，詔命中書右丞廉希憲行省于江陵，

阿里海牙還戍鄂州。七月，奉旨進(jìn)取湖南。十月，率軍攻潭州（長沙），遭到宋湖南安撫使兼知潭州李芾的頑強(qiáng)抵抗，至十三年正月始破；諸將企圖乘機(jī)虜掠，提出由于潭州持久抗戰(zhàn)，應(yīng)按例屠城，阿里海牙采納參政崔斌、郎中和尚的意見，以屠城不符合世祖所諭“曹彬不殺”之旨說服諸將，乃下令撫慰城民，發(fā)倉賑饑。遂移省治于潭州，傳檄招降了湖南諸州縣。奉旨入朝，上所得州縣、戶口。詔命進(jìn)兵廣西，升平章政事，行省于湖廣。十一月，率軍入廣西，攻破嚴(yán)關(guān)，進(jìn)逼靜江（桂林），遣使持世祖詔招降，宋守將馬暨焚詔斬使，堅(jiān)決抵抗，元軍攻打三十余日始克，遂以靜江與長沙不同，“民性驁囂，易叛難服，不重典刑之，廣西他州不可言以綏徠”，下令屠城，并殺所俘馬暨等宋官。接著分遣諸將略取廣西諸州縣，還駐潭州。十五年，鎮(zhèn)壓了湖廣各地響應(yīng)宋二王的起義，并親自領(lǐng)兵渡海攻取瓊州，諭降萬安、吉陽等軍。十六年，入朝，進(jìn)獻(xiàn)金3500兩，銀53100兩，并攜所招降八番酋長見帝，請置宣慰司治之。十八年，奏準(zhǔn)復(fù)移省治于鄂州，遂成定制。其后，元朝出兵侵占城、安南，立荊湖占城行省，仍以阿里海牙為平章領(lǐng)之，發(fā)本省兵民出征；又命佐鎮(zhèn)南王脫歡領(lǐng)兵攻安南。二十三年初，入朝議征安南事，拜安南行省左丞相，未及行，五月，病死于上都。后追封楚國公，至正八年（1348）進(jìn)封江陵王。

阿里海牙在攻取荊湖南北路戰(zhàn)爭中，將降民3800戶沒入為私奴，自置官吏治之，歲責(zé)其納租賦。湖北道宣慰使張雄飛請他將這些人戶還歸政府，不從，遂入朝奏其事，詔還籍為民；至元二十年，有旨命南臺(tái)御史大夫相威檢核阿里海牙及湖廣省參政忽都帖木兒等所占俘丁32000余人，并放為民。十九年，相威又彈劾阿里海牙占降民1800戶為奴，阿里海牙辯稱系征討所得；又自言功比伯顏，要求賜養(yǎng)老戶，也受到御史的彈劾。（《元史·相威傳》；虞集《姚天福神道碑》）。二十三年四月，中書省平章要束木奉旨鉤考湖廣省錢谷，阿里海牙奏請與要束木相互鉤考貪賄事，但不久他就病死，世祖命鉤考事依要束木之言行之。十二月，要束木抄籍了他的家資，并將他所庇逃民無主者千人發(fā)去屯田。他還據(jù)有大量江南田土，成宗時(shí)被收歸國有。他在取湖廣后，罷宋夏稅，按中原例改科門攤，每戶一貫二錢，比夏稅增鈔五萬余錠，造成湖廣賦稅比江浙更重的后果。

阿里海牙，畏吾兒人也。初生，胞中剖而出。其父以為不祥，將棄之，母不忍。比長，果聰辨，有膽略。家貧，嘗躬耕，舍耒嘆曰：“大丈夫當(dāng)立功朝廷，何至效細(xì)民事畎畝乎！”去，求其國書讀之，逾月，又棄去。用薦者得事世祖于潛邸。世祖即位，漸見擢用，由左右司郎中遷參議中書省事。至元二年，立諸路行中書省，進(jìn)僉河南行省事。

五年，命與元帥阿術(shù)、劉整取襄陽，又加參知政事。始，帝遣諸將，命毋攻城，但圍之，以俟其自降。乃筑長圍，起萬山，包百丈、楚山，盡鹿門，以絕之。宋兵入援者皆敗去。然城中糧儲(chǔ)多，圍之五年，終不下。九年三月，破樊城外郛，其將復(fù)閉內(nèi)城守。阿里海牙以為襄陽之有樊城，猶齒之有脣也，宜先攻樊城，樊城下，則襄陽可不攻而得。乃入奏。帝始報(bào)可。會(huì)有西域人亦思馬因獻(xiàn)新炮法，因以其人來軍中。十年正月，為炮攻樊，破之。先是，宋兵為浮橋以通襄陽之援，阿里海牙發(fā)水軍焚其橋，襄援不至，城乃拔。詳具《阿術(shù)傳》。 阿里海牙既破樊，移其攻具以向襄陽。一炮中其譙樓，聲如雷霆，震城中。城中洶洶，諸將多逾城降者。劉整欲立碎其城，執(zhí)文煥以快其意。阿里海牙獨(dú)不欲攻，乃身至城下，與文煥語曰：“君以孤軍城守者數(shù)年，今飛鳥路絕，主上深嘉汝忠。若降，則尊官厚祿可必得，決不殺汝也�！蔽臒ê�疑未決。又折矢與之誓，如是者數(shù)四，文煥感而出降。遂與入朝。帝以文煥為昭勇大將軍、侍衛(wèi)親軍都指揮使、襄漢大都督；阿里海牙行荊湖等路樞密院事，鎮(zhèn)襄陽。阿里海牙奏曰：“襄陽自昔用武之地也，今天助順而克之，宜乘勝順流長驅(qū)，宋可必平�！逼秸掳⑿g(shù)亦贊其說。帝命丞相史天澤議之。天澤曰：“朝廷若遣重臣，如丞相安童、同知樞密院事伯顏者一人，都督諸軍，則四海混同，可立待也�！钡墼唬骸安�顏可�！蹦舜笳鞅�，拜伯顏為行中書省左丞相，阿術(shù)為平章。阿里海牙進(jìn)行省右丞，賞鈔二百錠。

十一年九月，會(huì)師襄陽，遂破郢州及沙洋、新城。十二月，師出沙蕪口。宋制置夏貴守諸隘，甚固。阿里海牙麾兵攻武磯堡，貴趨援之。阿術(shù)遂以兵西渡青山磯，宋都統(tǒng)程鵬飛來迎戰(zhàn)，敗之江中。會(huì)貴兵亦敗走廬州，宣撫朱礻異孫夜遁還江陵，知鄂州張晏然以城降，鵬飛以本軍降。伯顏與諸將會(huì)鄂城下，議曰：“鄂襟山帶江，江南之要區(qū)也，且兵糧皆備。今蜀、江陵、岳、鄂皆未下，不以一大將鎮(zhèn)撫之，上流一動(dòng)，則鄂非我有也�！蹦艘员�四萬遣阿里海牙戍鄂，而與阿術(shù)將大兵以東。

阿里海牙集鄂民，宣上德惠，禁將士毋侵掠。其下恐懼，無敢取民之菜者，民大悅。遣人徇壽昌、信陽、德安諸郡，皆下。進(jìn)徇江陵。十有二年春三月，與安撫高世杰兵遇巴陵，命張榮實(shí)搗其中堅(jiān)，解汝楫率諸翼兵左右角之。世杰敗走，追降之于桃花灘。遂下岳州。四月，至沙市，城不下，縱火攻之，沙市立破，宣撫朱礻異孫、制置高達(dá)恐即以城降。乃入江陵，釋系囚，放戍券軍，除其徭賦及法令之繁細(xì)者。傳檄郢、歸、峽、常德、澧、隨、辰、沅、靖、復(fù)、均、房、施、荊門及諸洞，無不降者。盡奏官其所降官，以兵守峽，籍其戶口財(cái)賦來上。帝喜，大宴三日，語近臣曰：“伯顏兵東，阿里海牙以孤軍戍鄂，朕甚憂之。今荊南定，吾東兵可無后患矣�！蹦擞H作手詔褒之，命右丞廉希憲守江陵，促阿里海牙急還鄂，且以沿江諸城新附者委之。

阿里海牙至鄂，招潭州守臣李芾，不聽。乃移兵長沙，拔湘陰。冬十月，至潭，為書射城中以示芾，曰：“速下，以活州民，否則屠矣。”不答。乃決隍水，部分諸將，以炮攻之，破其木堡。流矢中胸，瘡甚，督戰(zhàn)益急，奪其城。潭人復(fù)作月城以相拒。凡攻七十日，大小數(shù)十戰(zhàn)。十有三年春正月，芾力屈，及轉(zhuǎn)運(yùn)使鐘蜚英、都統(tǒng)陳義皆自殺，其將劉孝忠以城降。諸將欲屠之，阿里海牙曰：“是州生齒數(shù)百萬口，若悉殺之，非上諭伯顏以曹彬不殺意也，其屈法生之�！睆�(fù)發(fā)倉以食饑者。

遣使徇郴、全、道、桂陽、永、衡、武岡、寶慶、袁、韶、南雄諸郡，其守臣皆率其民來迎，曰：“聞丞相體皇帝好生之德，毋殺虜，所過皆秋毫無犯，民今復(fù)見太平，各奉表來降�！必┫�，稱阿里海牙也。奏官其降官，皆如江陵。獨(dú)宋經(jīng)略使馬既守靜江不下。使總管俞全等招之，皆為所殺。會(huì)宋主以國降，降手詔遣湘山僧宗勉諭既，既復(fù)殺之。阿里海牙又為書，以天命地利人心開既，許以廣西大都督，反覆千余言，終不聽。因入朝賀平宋，拜平章政事，使持詔如靜江諭之。十一月，前兵至嚴(yán)關(guān)，既守關(guān)弗納，破其兵，又?jǐn)《冀y(tǒng)馬應(yīng)麒于小溶江，遂逼靜江。錄上所賜靜江詔以示既，既焚之，斬其使。靜江以水為固，乃筑堰斷大陽、小溶二江，以遏上流，決東南埭，以涸其隍，破其城。民聞城破，即縱火焚居室，多赴水死。既及其總制黃文政、總管張虎以殘兵突圍走，執(zhí)之。阿里海牙以靜江民易叛，非潭比，不重刑之，則廣西諸州不服，因悉坑之，斬既于市。分遣萬戶脫溫不花徇賓、融、柳、欽、橫、邕、慶遠(yuǎn)，齊榮祖徇郁林、貴、廉、象，脫鄰徇潯、容、藤、梧，皆下之。特磨王儂士貴、南丹州牧莫大秀，皆奉表求內(nèi)附，奏官其降官如潭州。以兵戍靜江、昭、賀、梧、邕、融，乃還潭。

既而宋二王稱制海中，雷、瓊、全、永與潭屬縣之民文才喻、周隆、張虎、羅飛咸起兵應(yīng)之，舒、黃、蘄相繼亦起，大者眾數(shù)萬，小者不下數(shù)千。詔命討之，且略地海外。阿里海牙既定才喻等，至雷州，使人諭瓊州安撫趙與珞降，不聽。遂自航大海五百里，執(zhí)與珞、冉安國、黃之紀(jì)，皆裂殺之，盡定瓊南寧、萬安、吉陽地。降八蕃羅甸蠻，以其總管龍文貌入見，置宣慰司。八蕃羅甸、臥龍、羅蕃、大龍、退蠻、盧蕃、小龍、石蕃、方蕃、洪蕃、程蕃，并置安撫以鎮(zhèn)之。

十八年，奏請徙省鄂州。所定荊南、淮西、江西、海南、廣西之地，凡得州五十八，峒夷山獠不可勝計(jì)。大率以口舌降之，未嘗專事殺戮。又其取民悉定從輕賦，民所在立祠祀之。

二十三年，入朝，加光祿大夫、湖廣行省左丞相；卒，年六十。贈(zèng)開府儀同三司、上柱國，封楚國公，謚武定。至正八年，進(jìn)封江陵王。

子忽失海牙，湖廣行中書省左丞；貫只哥，江西行中書省平章政事。