少年時當過和尚，因行為無賴，所至不容，曾乞食于河南滑州酸棗縣，自早至晚，沒人給他東西，李罕之發(fā)怒，擲缽于地，撕毀僧衣，投奔河陽節(jié)度使諸葛爽，入伍當了士兵。罕之，是他出家時的僧號，從此便以此為名。李罕之有勇力，與人相毆，致死方休，諸葛爽因此讓他當了小校，后李罕之投奔了黃巢起義軍。

　　879年，淮南節(jié)度使高駢派大將張璘南下，擊敗黃巢，李罕之與畢師鐸等將領(lǐng)投降高駢，被任命為光州刺史。一年多后，光州受到蔡州節(jié)度使秦宗權(quán)的攻擊，李罕之不得不再次依附河陽節(jié)度使諸葛爽，改任懷州刺史。諸葛爽當時奉詔攻擊秦宗權(quán)，便上表任命李罕之為副招討，但不能取勝。中和四年（884），諸葛爽命李罕之為河南尹和東都留守。此時，河東節(jié)度使李克用正與宣武節(jié)度使朱全忠翻臉，于是與李罕之相結(jié)。885年，秦宗權(quán)部將孫儒攻擊洛陽，李罕之迎戰(zhàn)，對壘數(shù)月，力不能敵，退保澠池，孫去后，李罕之復回洛陽。

　　886年冬，諸葛爽病死，子諸葛仲方年幼，大將劉經(jīng)掌權(quán)，鎮(zhèn)守洛陽，李罕之與大將張全義奉諸葛仲方攻擊劉經(jīng)，不勝，退保懷州，秦宗權(quán)的大將孫儒趁機又攻陷了河陽。李罕之向盟友李克用求助，得到沙陀軍幫助后收復河陽，李克用任命李罕之為河陽節(jié)度使，同平章事，張全義為河南尹，東都留守。李罕之既得河陽，不可一世，經(jīng)常向據(jù)守洛陽的張全義勒索。888年春天，張全義出動洛陽全部民軍突襲河陽，將毫無防備的李罕之打得大敗而逃，李罕之只身奔太原，被李克用任命為澤州刺史，仍遙領(lǐng)河陽節(jié)度使，并派大將李存孝助其一臂之力，張全義敵不過李克用的沙陀兵，求助于朱全忠，李存孝懼而退還，李罕之走保澤州。

　　由于天下大亂，糧草不足，生性殘暴的李罕之縱兵為禍，以活人為食，每天派兵抄懷孟、晉、絳諸州，殺人無數(shù)，數(shù)百里內(nèi)郡無長吏，里無居民。河內(nèi)百姓，紛紛相結(jié)屯寨，反抗暴政，但都被李罕之派兵消滅。蒲、絳二州之間有座摩云山，有數(shù)萬百姓立柵于上以避亂兵騷擾，遠近流寇皆不能犯，卻被李罕之以精兵百人攻克，時人稱李罕之為“李摩云”。

　　894年，李克用動員全部兵力討伐鳳翔節(jié)度使李茂貞和河中節(jié)度使王行瑜，李罕之時任邠州行營副都統(tǒng)，率軍隨李存孝一起征戰(zhàn)，屢獲勝利，等到王行瑜被殺后，李罕之被任命為檢校太尉，他想代替王行瑜鎮(zhèn)守河中，但李克用不同意，李罕之非常不滿。898年12月，李克用屬下的昭義節(jié)度使薛志勤去世，城內(nèi)無主，李罕之從澤州率兵突入潞州，自稱留后。李克用大怒，遣大將李嗣昭討之，雙方徹底翻臉，李罕之求救于朱全忠，朱全忠派大將丁會來救。

　　不過，潞州最終還是被李嗣昭攻陷，899年，朱全忠命李罕之移鎮(zhèn)河陽，李罕之于道中病卒，時年58歲。