劉榮祖是劉懷慎庶長(zhǎng)子，他的家族的祖籍原本屬彭城，后來在西晉末年，南遷僑居在京口（今江蘇鎮(zhèn)江）。劉榮祖年少時(shí)，便喜好和擅長(zhǎng)騎射，被劉裕知悉。劉裕在京口舉義討伐桓玄時(shí)，劉榮祖隨父親劉懷慎投奔劉裕。

義熙六年（410年），盧循發(fā)兵攻逼京師建康。當(dāng)時(shí)，盧循親率軍隊(duì)乘小艦，進(jìn)入淮河攻打劉裕軍新建的營(yíng)寨。劉榮祖被劉裕選派，隨從自己抵御盧循軍的進(jìn)攻，當(dāng)時(shí)劉裕宣令三軍士兵，不得擅自向敵軍艦船射箭，但是劉榮祖忍不住內(nèi)心的憤怒，違反禁令向敵軍艦船連射數(shù)十箭，而且每箭都將敵軍士兵射殺，劉裕從此對(duì)他十分驚奇和贊嘆。不久，盧循軍被劉裕軍擊潰。戰(zhàn)后，劉榮祖以戰(zhàn)功參太尉軍事，正式進(jìn)入劉裕的霸府任職。

義熙十一年（415年），劉榮祖又從劉裕征討荊州刺史司馬休之，當(dāng)時(shí)劉裕前鋒徐逵之初戰(zhàn)敗于魯軌，前鋒眾將戰(zhàn)死者多人，諸將大多都很沮喪，唯獨(dú)劉榮祖一人頻繁地向劉裕請(qǐng)戰(zhàn)，劉裕見劉榮祖意志堅(jiān)定，于是解下自己身上的鎧甲授于劉榮祖，命劉榮祖率軍進(jìn)擊。劉榮祖領(lǐng)兵沖鋒陷陣，身被數(shù)創(chuàng)，仍驍勇異常，最終大破魯軌軍。戰(zhàn)后，劉榮祖因功加振威將軍，尋參世子征虜軍事，領(lǐng)遂成令。

義熙十二年（416年），劉榮祖轉(zhuǎn)鎮(zhèn)西中兵參軍，寧遠(yuǎn)將軍，參與北伐后秦，與劉裕率水軍入黃河，在黃河北岸，參與劉裕布卻月陣擊潰長(zhǎng)孫嵩的北魏軍的戰(zhàn)役。后與朱超石渡河追擊北魏軍，在半城大破北魏軍，繼而又攻克劉度壘，斬殺魏軍士兵數(shù)千人。戰(zhàn)后，劉裕大饗三軍戰(zhàn)士，對(duì)劉榮祖說：“卿以寡克眾，攻無堅(jiān)城，雖古名將，何以過此�！鞭D(zhuǎn)劉榮祖為太尉中兵參軍，加建威將軍。

義熙十三年（417年），劉裕攻破長(zhǎng)安，姚泓女婿徐眾率其余眾連營(yíng)叛走，劉榮祖與檀道濟(jì)等率軍攻營(yíng)破之，斬首擒馘，不可稱計(jì)。

義熙十四年（418年），隨劉裕統(tǒng)軍移鎮(zhèn)彭城，被劉裕任命為彭城內(nèi)史，又補(bǔ)相國(guó)參軍。同年，劉裕派遣劉榮祖返回京師建康，擔(dān)任世子中兵參軍。

永初元年（420年），劉裕代晉稱帝，劉榮祖被任命為越騎校尉，不久轉(zhuǎn)為右軍將軍，追論半城之功，賜爵都鄉(xiāng)侯。

景平元年（423年），北魏南侵劉宋河南，劉宋司州刺史毛德祖陷沒。不久，汝陽(yáng)告急。劉榮祖率軍趕赴前線救援，豫州刺史劉粹調(diào)遣劉榮祖助守汝陽(yáng)，擊退魏軍，魏軍焚攻具退走。同年，劉榮祖進(jìn)封為“輔國(guó)將軍”。劉榮祖為人輕財(cái)貴義，善撫將士，但是性情沖動(dòng)暴躁，頗失士君子之心。

景平二年（424年），領(lǐng)軍將軍謝晦十分厚重地結(jié)交和對(duì)待劉榮祖。謝晦、檀道濟(jì)、傅亮、徐羨之等人行廢帝之時(shí)，想要拉劉榮祖參與其中，結(jié)果劉榮祖十分堅(jiān)決地推辭拒絕，所以才沒有參與。

元嘉元年（424年），謝晦鎮(zhèn)守荊州時(shí)，欲向朝廷請(qǐng)求將劉榮祖調(diào)為南蠻校尉，但是劉榮祖堅(jiān)決向朝廷推辭和拒絕。劉榮祖于當(dāng)年冬天病卒。

劉裕：“卿以寡克眾，攻無堅(jiān)城，雖古名將，何以過此�！�

父親：劉懷慎

弟弟：劉德愿、劉興祖