1947年起，先后就讀于山東醫(yī)學院和浙江醫(yī)學院，1953年1月畢業(yè)于浙江醫(yī)學院，3月分配至揚州，從事血吸蟲病防治工作。1953年12月加入共青團，1978年2月加入中國共產(chǎn)黨。歷任揚州地區(qū)衛(wèi)生防疫站組長、科長、副站長，揚州市衛(wèi)生防疫站副站長等職。曾先后被授予醫(yī)師、主管醫(yī)師、副主任醫(yī)師、主任醫(yī)師職稱。是揚州市衛(wèi)生防疫事業(yè)的開創(chuàng)者之一；江蘇省知名的流行病學專家，先后擔任過江蘇省流行病學學會副主任委員、中華預防醫(yī)學會江蘇分會常務(wù)理事。

　　20世紀50年代積極投身于艱苦的血防工作，打起背包，吃住灘頭，走村串戶，查病治病，深入螺區(qū)，查螺滅螺。60年代初，吃住在高郵新民灘滅螺現(xiàn)場，參與新藥五氯酚鈉的滅螺試驗。在急性腸道傳染病流行期間，廢寢忘食研究疫情動態(tài)；發(fā)生暴發(fā)疫情，常不分晝夜趕赴疫點，進行流行病學調(diào)查，組織指導撲滅。70年代中期衛(wèi)生防疫站恢復后，他以極大的熱情投入傳染病防治，與同事一起，通過十年的努力，在揚州市建立和健全了兒童計劃免疫等一系列規(guī)章制度和實施辦法，并使之得到有效的落實，使相關(guān)傳染病得到大幅度下降，傳染病疫情得到有效的控制。1960年以來，他身患胃潰瘍、高血壓、心臟病等多種疾病，身體孱弱。在農(nóng)村基層工作時，多次發(fā)生胃痛出血不能飲食、休克暈倒，乘車遭遇急剎碰傷出血，全然不顧，為了防疫事業(yè)、人民的健康仍冒著嚴寒酷暑，甚至在家人患病臥床的情況下，堅持在防病第一線。他每年有一半的時間在農(nóng)村基層度過，全市（含現(xiàn)泰州市）的三百多個鄉(xiāng)（鎮(zhèn)）都留有他的足跡。

　　劉山輝一生忠于祖國的預防醫(yī)學事業(yè)，十分關(guān)注預防醫(yī)學科研和教育，積極倡導人才培養(yǎng)，開展職工教育。毫無保留地傳授專業(yè)知識，輔導業(yè)務(wù)技術(shù)，為衛(wèi)生防疫戰(zhàn)線培養(yǎng)了一批人才。1955年，在中華衛(wèi)生雜志上發(fā)表了“土埋消滅釘螺效果觀察”的論文；1989年參加了江蘇省衛(wèi)生廳防疫局“傷寒副傷寒防治手冊”的編寫；參與省、市“霍亂、傷寒、肝炎等防治措施”的制訂，為控制多種傳染病流行作出了突出的貢獻。由于他無私的奉獻，出色的工作，卓著的成績，1980年被評選為江蘇省先進工作者；1981年被評選為江蘇省勞動模范；1982年被評選為江蘇省優(yōu)秀衛(wèi)生工作者。

　　20世紀80年代末，由于傷寒菌株變異等原因，揚州市里下河地區(qū)一度發(fā)生傷寒大面積流行，為盡快控制疫情，保障人民健康，劉山輝不顧多病的身軀，始終戰(zhàn)斗在防疫工作第一線，憑借他豐富的經(jīng)驗和實踐，制訂了一整套切實可行的控制措施，為指導基層撲滅疫情起到了積極的作用。在全市疫情基本得到控制后，對防治措施適時進行評價，為今后的防治工作積累經(jīng)驗。他以科學的態(tài)度，謙虛的作風，參與組織了“揚州市傷寒防治工作論證活動”，與上海、南京等地的多名專家、教授及省、市領(lǐng)導一道，于1991年6月8日冒著高溫和大雨深入興化、高郵、江都等地實地考察，進行科學的論證，受到了與會學者的好評。在6月14日“論證會”結(jié)束的當晚，又冒雨、涉水趕回揚州。當夜不幸因突發(fā)腦溢血與世長辭，享年62歲。