父親盧禧，是隋朝的虎賁郎將。盧祖尚覺(jué)得家境富裕是累贅，把所有錢財(cái)拿出來(lái)分發(fā)給大家，因此得到人心。大業(yè)末年，盧祖尚招募勇士驅(qū)逐、捉拿強(qiáng)盜。當(dāng)時(shí)盧祖尚很年輕，而武力過(guò)人，又對(duì)部下統(tǒng)御嚴(yán)格，凡出征的都有功勞。盜賊們懼怕他，不敢進(jìn)入他管轄的地方。

到宇文化及作亂，光州人請(qǐng)求盧祖尚擔(dān)任該州的刺史。盧祖尚當(dāng)時(shí)才19歲，上祭壇歃血明志，向眾人宣誓，不禁哭泣不已，悲從中來(lái)，眾人都非常感動(dòng)。

王世充立越王侗，盧祖尚派遣使節(jié)跟隨越王，越王侗授權(quán)盧祖尚為光州總管。

到王世充自立為王，盧祖尚就帶領(lǐng)光州歸順朝廷，唐高祖嘉獎(jiǎng)他，賜給官印慰勞、勉勵(lì)他，拜他為光州刺史，封爵弋陽(yáng)郡公。

武德劉年，盧祖尚跟隨趙王李孝恭討伐輔公祏，擔(dān)任前軍總管，攻打輔公祏的宣州、歙州，都打下來(lái)了。進(jìn)軍攻擊敵軍統(tǒng)帥馮惠亮、陳正通，把他們擊潰了。賊寇平定后，盧祖尚因戰(zhàn)功被授予蔣州刺史。又先后擔(dān)任壽州都督、瀛州刺史，有賢能的名聲。

貞觀初年，交州都督、遂安公壽因?yàn)樨澪叟灿毛@罪，太宗皇帝想尋找好的州牧，朝廷大臣都說(shuō)盧祖尚文武全才，廉潔正直。征召到京城，皇帝在朝堂上對(duì)他說(shuō)：“交州是個(gè)大地方，離京師很遠(yuǎn)，需要賢能的州牧安撫。以前的都督都不稱職，你有安撫邊疆的才略，為我鎮(zhèn)守邊境，不要因?yàn)槁愤h(yuǎn)而推辭�！�

盧祖尚跪拜稱謝而出，不久后悔，以從前的病痛復(fù)發(fā)為借口推辭出任。唐太宗派杜如晦傳皇帝旨意，盧祖尚堅(jiān)決推辭。又派遣他妻子的哥哥周范前去傳達(dá)皇帝的意思：“普通人許諾了尚且有信用，你當(dāng)面許諾于我，怎么能后來(lái)反悔呢？最好早早上路，三年之后一定召還你，你不要推辭，我一定守信�！北R祖尚回答說(shuō)：“嶺南瘴氣很重，需要整天喝酒，我不能喝酒，去了就不可能回來(lái)了。”太宗皇帝大怒說(shuō)道：“我安排一個(gè)人做事他都不聽從，怎么能號(hào)令天下呢！”于是在朝廷里將盧祖尚斬首，當(dāng)時(shí)他才三十多歲。不久太宗后悔了，下令恢復(fù)他原來(lái)的官爵。