1952年1月參加工作，1954年2月加入中國共產(chǎn)黨。歷任偃師縣岳灘村黨支部書記、岳灘公社社長、偃師縣委副書記、洛陽地委常委、河南省農(nóng)業(yè)廳黨組書記、省農(nóng)委副主任、省政協(xié)常委等職，兼任農(nóng)業(yè)部全國小麥專家顧問組組長，河南省小麥高產(chǎn)開發(fā)專家指導組組長。

從20世紀50年代起，劉應祥就投身于小麥高產(chǎn)栽培技術(shù)研究，在實踐中總結(jié)出小麥“三個耳朵”的青苗管理方法；同時劉應祥還十分注重小麥深層次的技術(shù)開發(fā)研究，較早提出了小麥高產(chǎn)穩(wěn)產(chǎn)低成本的問題，并致力于實踐和探索。1978年，劉應祥出席了全國科技大會，并為主席團成員，獲國家重大科技獎。1981年，劉應祥參加了在美國召開的國際第一屆集約農(nóng)業(yè)會議，并以生動的演講，搏得了世界專家的贊揚，產(chǎn)生了極大影響為我國爭得了榮譽。劉應祥在擔任全國小麥專家顧問組組長十多年中，多次受到中央領導和農(nóng)業(yè)部的表揚，連續(xù)四屆擔任專家組組長。

劉應祥曾與科研人員合作，撰寫出版了《小麥，斗·爭實踐》和《小麥高穩(wěn)低栽培》兩本書，有效地指導著小麥生產(chǎn)的發(fā)展。

曾2次被評為全國勞動模范；

3次被評為河南省級特等模范；

1991年，被國務院授予“有突出貢獻專家”稱號，享受政府特殊津貼。