14歲時(shí)，靈祐依法常律師出家于長(zhǎng)溪縣建善寺(在今霞浦)。后在浙江杭州龍興寺剃發(fā)受戒，并在寺中廣究大小乘經(jīng)律。貞元九年(793年)，云游江西，參謁高僧百丈懷海，懷海見(jiàn)他生性穎悟，學(xué)佛心專，允其留在身邊。從此，靈祐成為參加學(xué)佛者的首領(lǐng)，后來(lái)又被選為所居洪州(今江西南昌市)百丈山寺的典座。唐元和十五年(820年)，靈祐遵懷海之囑到溈山(今湖南省寧鄉(xiāng)縣西)開(kāi)法。溈山山勢(shì)峻峭、荒無(wú)人煙，靈祐到那里，搭茅庵蔽身，雜于猿猱中，用橡栗之類野果充饑。不久，山下居民得知靈祐修行之事，上山幫助營(yíng)建寺宇，寺僧也逐漸增多。

會(huì)昌五年(845年)七月，武宗李炎“毀寺逐僧”，靈祐只得把僧眾遣散，自己也裹頭充農(nóng)民，隱于民間。直到大中元年(847年)，令會(huì)昌五年所廢寺，聽(tīng)僧尼修復(fù)，戶部侍郎兼諸道鹽鐵轉(zhuǎn)運(yùn)使裴休才將他迎出，讓他再回溈山，重整寺宇。寺宇重修后，湖南觀察使李景讓奏請(qǐng)朝廷，賜名為“同慶寺”。之后，溈山禪風(fēng)大振，四方來(lái)山尋師訪道的僧人漸多，住寺僧眾達(dá)1500人。靈祐堅(jiān)持按照《百丈清規(guī)》“一日不作，一日不食”，要求他們邊學(xué)禪邊墾荒種田，親自給他們講經(jīng)。他在帶有老莊化、玄學(xué)化的中國(guó)禪宗理論基礎(chǔ)上，創(chuàng)造性地總結(jié)出一套別具風(fēng)格的接引方式，造就大量禪學(xué)人才，其中能為法嗣的有40余人，而以仰山慧寂和香嚴(yán)智閑最為突出。靈祐敷揚(yáng)宗教凡四十余年，于大中七年(853年)圓寂。敕謚“大圓禪師”。著有《溈山警策》、《潭州溈山靈祐禪師語(yǔ)錄》各1卷傳世。