祖輩是商賈，一向往來(lái)廣陵，在商賈中頗有威信。呂用之少年即為孤兒，依附于舅家，私盜其室，亡命九華山，事方士牛宏徽，據(jù)說(shuō)有役鬼神之術(shù)。后來(lái)下山賣(mài)藥于廣陵市集，為圖進(jìn)身之階，造訪(fǎng)淮南節(jié)度使高駢的部將俞公楚，表演法術(shù)，因而得以見(jiàn)到高駢，居然被延入幕府，稍補(bǔ)右職。

　　呂用之起于市井，熟其人情世故，知道公私利病，屢次向高駢進(jìn)言，又精通旁門(mén)左道之法，因此被好鬼神的高駢視為奇才，信任有加。高駢出身行伍，早年頗有英名，部下猛將如云，如梁纘、陳珙、馮綬、董瑾、俞公楚、姚歸禮等人，呂用之素有野心，便想排擠他們。在讒言之下，高駢遂剝奪了梁纘的兵權(quán)，將陳珙全家族滅，其余諸人也被疏遠(yuǎn)。為了鞏固自己的權(quán)勢(shì)，呂用又向高駢引進(jìn)親信張守一、諸葛殷等人，一同蠱惑高駢。張守一本是市井無(wú)賴(lài)，諸葛殷有皮膚病，滿(mǎn)身大瘡，隨處流膿，但二人善于言詞，察言觀(guān)色之際，將高駢玩弄于股掌之間，居然頗受信任，寵愛(ài)程度與呂用之相等。

　　呂用之等人用詭計(jì)騙取了高駢的信任，引導(dǎo)他不理軍務(wù)，日夕齋醮，煉金燒丹，費(fèi)用以巨萬(wàn)計(jì)。呂用之又厚賂高駢左右隨從，隨時(shí)觀(guān)察高駢的動(dòng)靜，有異議者，都被陷害而死，因此無(wú)人敢言。高駢將呂用之視為左右手，公私大小之事皆由他裁決，淫刑濫賞，淮南的軍政事務(wù)遂告混亂。呂用之害怕諸將不服，于是選募諸軍中的驍勇之士二萬(wàn)人，號(hào)左、右莫邪都，由張守一和他本人分任左、右莫邪軍使，設(shè)立官員一如帥府，而器械精利，衣裝華潔，每出入，導(dǎo)從近千人。

　　呂用之又勸高駢說(shuō)：“神仙不難致，但恨學(xué)道者不能絕俗累，故不肯降臨耳！”高駢信以為真，于是悉去姬妾，謝絕人事，賓客、將吏皆不得見(jiàn)。由此，呂用之得專(zhuān)行威福，無(wú)所忌憚，境內(nèi)不復(fù)知有高駢矣。此后，呂用之的官位一再提升，竟然當(dāng)上了淮南右都押牙、和州刺史，后來(lái)高駢又推薦他當(dāng)嶺南節(jié)度使，建牙開(kāi)幕，完全與高駢相同，凡高駢之腹心或?qū)⑿Ｖ�能任事者，皆逼以從己，高駢也開(kāi)始懷疑呂用之，私下想剝奪他的權(quán)柄，但呂用之根蒂已固，無(wú)如之何。

　　887年，高駢部將、原黃巢起義軍將領(lǐng)畢師驛因討伐孫儒有功，遭到呂用之排擠，出為左廂都知兵馬使，畢師驛以為呂用之要對(duì)自己下手，非�？只�，于是聯(lián)絡(luò)大將鄭漢璋、張神劍叛變，出兵圍攻揚(yáng)州，城中大亂，呂用之出城反擊，雙方互有勝負(fù)，而高駢也與呂用之翻臉。

　　此后，宣州觀(guān)察使秦彥率兵前來(lái)援助畢師鐸，圍城益急，呂用之力戰(zhàn)不能勝，開(kāi)門(mén)北走，畢師鐸入城后，囚禁高駢，呂用之偽造命令，召?gòu)]州刺史楊行密來(lái)助，楊行密率兵攻克揚(yáng)州，平定了叛亂，當(dāng)眾責(zé)備呂用之的罪惡，將其與張守一斬殺于三橋，滿(mǎn)門(mén)族滅。