1832年（ 道光十二年），彭玉在吳川市振文上彭村出生，彭家住的是土坯茅屋，非常貧困。八歲那年，彭玉父親病死在茅屋里，從此彭玉便開始做童工，幫大戶人家搓麻繩和到河邊捕魚撈蝦，還為家里干農(nóng)活。在眾多的窮孩子中，彭玉不僅學(xué)會(huì)了游泳、潛水，而且游水速度最快，水性最好。15歲，經(jīng)親戚介紹，彭玉到鹽場(chǎng)挑鹽，一擔(dān)數(shù)百斤，挑到海邊的大船上，每次來回幾十里路。

19歲時(shí)，有位船主看到彭玉力氣大，讓他上大船做船工，往來于越南、海南、北海等地運(yùn)輸貨物。雖然船主在工錢上刻薄，但是彭玉從不計(jì)較，只要船主高興，給多少都行，畢竟做船工比挑鹽所賺的錢多。他包攬了船上所有的苦、臟、累活，像樹桅桿、升大帆、拋大錨、抱甲板、補(bǔ)大網(wǎng)魚、裝卸大貨以及深海里捕捉大魚、爬桅桿整理大帆等，干得非常利落，肩扛、手提、腰背等重活樣樣都行。而且，他還學(xué)會(huì)了駕船、修船，憑經(jīng)驗(yàn)判斷天氣變化。做船工當(dāng)年，他跟船主送貨到越南，返回途中遇到了海盜，有幾個(gè)牛高馬大的海盜跳上大船欲搶奪財(cái)物，彭玉一一把他們制服。彭玉由此名聲大振，船主把他當(dāng)作自己親生兒子看待，讓他管理手下的船工。

1852年（ 咸豐2年），彭玉隨船送貨到瓊南思博，途中突遇臺(tái)風(fēng)，船沉人沒。彭玉在大海中漂流兩晝夜后，被越南海域的土匪救起，逃脫后乘坐過往商船回國(guó)。

晚清時(shí)期，匪患嚴(yán)重。心系國(guó)家和人民的彭玉于1853年（ 咸豐三年）毅然投軍，加入圍剿匪軍的黃巖鎮(zhèn)總兵黃彬帶領(lǐng)的水師。有一次，幾個(gè)水兵抬著一塊又厚又長(zhǎng)的甲板，非常吃力，抬一陣放下一陣，而彭玉自己一人用雙手將這塊甲板抱起來很快地搭到船上，讓將領(lǐng)們上船。黃彬看見后，對(duì)彭玉另眼相看，不久便讓他當(dāng)上哨長(zhǎng)，負(fù)責(zé)指揮兩艘舢板，漿、柁、篙、炮手均由他指揮。

在隨后的征戰(zhàn)中，由于彭玉戰(zhàn)功顯著，深受黃彬、 張國(guó)梁、 都興阿等晚清重要將領(lǐng)的器重。彭玉因此官升至千總、揚(yáng)州守備、參將加副將街，成為清廷得力的從二品水師將領(lǐng)。

與此同時(shí)，廣東區(qū)域一帶匪患猖獗，劫匪不僅搶劫商船，甚至連朝廷的水師緝私巡邏船也搶劫，還打家劫舍，欺男霸女。1864年（同治三年）清廷命兩廣總督 瑞麟清剿匪軍余部和其他匪幫。 瑞麟特調(diào)彭玉回師廣東負(fù)責(zé)剿匪。

在1867年瓊州海峽剿匪中，彭玉率領(lǐng)水師圍捕號(hào)稱海洋大盜心狠手辣的海盜頭目李茂仔。他親自指揮四路快船分隊(duì)將匪船堵在瓊州海峽最窄處10海里范圍，并且不顧炮火危險(xiǎn)親自指揮炮手擊沉匪船，其它幾艘匪船被截�？堪�，抓獲匪幫頭目李茂仔等46人。

1882年（光緒八年）12月，彭玉親自帶兵返回高州、電白、水東、梅菉，一舉端掉茂名土匪莫毓林老窩，抓獲二十四嶺土匪頭目。彭玉在廣東剿匪十多年，肅清了匪患，百姓安居樂業(yè)，商船自由航行。

鴉片戰(zhàn)爭(zhēng)后，香港淪為英國(guó)殖民地，1865年（同治四年）10月，彭玉被封為 大鵬協(xié)副將，駐守 九龍、新界，為清軍駐香港海防的最高軍事長(zhǎng)官，肩負(fù)著南中國(guó)海防要地重任的同時(shí)還承擔(dān)剿匪和執(zhí)行粵海關(guān)與水師聯(lián)防把守關(guān)口巡查緝私的任務(wù)。

彭玉組織力量摸清英方防線實(shí)力，提升水師裝備，密切監(jiān)視英軍動(dòng)向等，還協(xié)助兩廣總督 瑞麟從香港購置外輪，組織水師學(xué)習(xí)外輪知識(shí)。他除鉆研外輪的引進(jìn)、使用、維修和仿造技術(shù)，核算對(duì)比引進(jìn)與仿造的成本和海上實(shí)戰(zhàn)演習(xí)運(yùn)用的效果，向 瑞麟購置外輪提供參考外，還向陳蘭彬?qū)W習(xí)涉外禮節(jié)，聘請(qǐng) 伍廷芳教英文，以便自己適應(yīng)新形勢(shì)統(tǒng)帥才能的發(fā)揮。

彭玉擔(dān)任廣東水師 大鵬協(xié)副將、廣東水師副將銜、廣東外海（洋）水師總兵期間，協(xié)助兩廣總督 瑞麟、 廣東巡撫蔣益濃整頓海防，參與從英法兩國(guó)購買巡緝輪船7艘，在廣州創(chuàng)設(shè)廣東軍裝機(jī)器局，并協(xié)助廣東巡撫 張兆棟承辦的廣東軍火局（地點(diǎn)在廣州增城）調(diào)試水師兵器，當(dāng)時(shí)仿造的蚊子船（一種淺水炮艇）交給彭玉負(fù)責(zé)的外洋水師使用。

1873年（同治十二年）彭玉任廣東外海（洋）水師總兵不久，在瓊州海峽舉行一次新艦演練，共有20艘新型戰(zhàn)船出動(dòng)，其中有9艘是英法制造的，只見片刻功夫，戰(zhàn)船近百門炮把臨高角岸的山包炸成平地。這次演練，展示了換洋輪換軍火裝備后的廣東外海（洋）水師具有的戰(zhàn)斗實(shí)力，體現(xiàn)了廣東外海（洋）水師向近代海軍的方向發(fā)展。彭玉當(dāng)時(shí)是提督銜同一品官位，廣東引進(jìn)海軍裝備也是在這一時(shí)期開始的，他既是協(xié)助者，又是執(zhí)行者還是使用者。

1875年（光緒元年），彭玉等人向清廷提出加快建立粵洋海軍的建議，隨后，總理衙門正式提出建立北洋、南洋和粵洋海軍。1874年（同治十五年），廣東巡撫 張兆棟于廣州文明門外聚賢坊創(chuàng)辦廣州機(jī)器場(chǎng)，開始自造和仿造輪船，在船型、炮式的設(shè)計(jì)上不斷征求暗熟水戰(zhàn)的彭玉意見。不久，制造的4艘軍艦交給廣東外海（洋）水師使用。此時(shí)彭玉任提督銜廣東海（洋）水師總兵兼 碣石鎮(zhèn)總兵，并協(xié)助兩廣總督劉坤一分管全省海防事務(wù)。期間，彭玉加大查緝走私力度，認(rèn)真檢查各大小口，堅(jiān)持巡海，嚴(yán)格按“欽定稅則”辦事，對(duì)外國(guó)商船實(shí)施海關(guān)會(huì)同水師共同監(jiān)督防范制度，體現(xiàn)了對(duì)國(guó)家主權(quán)完整的高度負(fù)責(zé)和關(guān)稅獨(dú)立。

1879年（光緒五年），朝廷頒旨命彭玉進(jìn)京議事，后又留在廣東管理海防事務(wù)，同年8月，被加封瓊州鎮(zhèn)總兵。因勤于海防軍務(wù)，長(zhǎng)期過度勞累，彭玉積勞成疾，于1883年（光緒九年）病逝，終年51歲。

彭玉雖然當(dāng)了大官，但是他十分熱愛家鄉(xiāng)，竭盡全力為家鄉(xiāng)排憂解難，深受鄉(xiāng)親愛戴。他一生主要為家鄉(xiāng)辦了幾件實(shí)實(shí)在在的好事：治理水患、救助災(zāi)民、興辦教育、開辦圩市。

彭玉的家鄉(xiāng)吳川彭屋村，位于鑒江下游岸邊，每逢持續(xù)暴雨，水位上漲，農(nóng)田幾乎全部被淹沒，農(nóng)作物顆粒無收，村民生活非常艱難。彭玉回鄉(xiāng)調(diào)查了解到，吳川之所以連年發(fā)生水災(zāi)，是由于作為鑒江段的奇艷至木綿村長(zhǎng)達(dá)七八里長(zhǎng)的主干河道年久失修，河床淤塞所致。他立即向朝廷呈報(bào)整修計(jì)劃，在爭(zhēng)取當(dāng)?shù)毓俑�出資修整河道江堤無望的情況下，自己出資先把這七八里河段的河床抬高，隨后又捐巨款修筑三江堤圍，消除了當(dāng)時(shí)家鄉(xiāng)嚴(yán)重的水患。為隨時(shí)救助災(zāi)民，彭玉在家鄉(xiāng)買地建造“谷倉”，用于積谷備荒。每逢災(zāi)年，把谷倉里的谷米捐出部分賑濟(jì)災(zāi)民，其余廉價(jià)出售，平抑飛漲的米價(jià)。1877年3月，家鄉(xiāng)遭遇特大自然災(zāi)害，彭玉獲悉后立即命令手下用大船從外地運(yùn)谷米回吳川，平糶賑災(zāi)，還免收重災(zāi)戶的糧錢。

同治年間，彭玉回鄉(xiāng)看望母親，看到家鄉(xiāng)貧窮落后的面貌一直沒有改變，讀書人少、文盲多，便在家鄉(xiāng)創(chuàng)建振文書院，成為當(dāng)?shù)刂�名的最高學(xué)府，當(dāng)?shù)刂�名學(xué)者李文泰等受聘在書院執(zhí)教。書院培養(yǎng)出不少秀才、舉人進(jìn)士。為繁榮家鄉(xiāng)經(jīng)濟(jì)，彭玉捐資開辦振文圩，促進(jìn)了當(dāng)?shù)剞r(nóng)產(chǎn)品的交易流通。

彭玉有三個(gè)兒子，長(zhǎng)子彭振國(guó)，三子 彭東原。