大學(xué)畢業(yè)后，1945年1月加入中國共產(chǎn)黨。同年參加革命工作，歷任中共陽城太岳區(qū)委社會部文書，晉城、翼城地區(qū)公安隊政治指導(dǎo)員，后調(diào)到北京，任中央公安警衛(wèi)師政治部組織干事。1952年轉(zhuǎn)業(yè)國家文物局工作，歷任人事科、保衛(wèi)科科長。1961年到中央文化學(xué)院文博系任教研室主任。“文化大革命”初期調(diào)中央文革文藝組成員。1970年被“四人幫”打成“516”的副司令，被關(guān)進(jìn)秦城監(jiān)獄，身心受到迫害。1975年平反，落實政策回國家文物局工作，歷任國家文物局流散文物處處長、國家文物流通協(xié)調(diào)中心主任、國家文物鑒定委員會副主任。并擔(dān)任中國收藏家協(xié)會副會長和中國錢幣學(xué)會、中國集郵協(xié)會、中國文物協(xié)會理事。1986年為研究員。

劉巨成在文物收藏、鑒定、管理等方面有獨到成就。其主要著作有《中國文物工作概論》《文物特許出口管理辦法》《文物博物館工作文獻(xiàn)資料索引》《國際文物法規(guī)》；主編《中國古錢譜》；撰寫了中國大百科全書文物卷《私人收藏文物管理》《文物出境管理》等。參與和起草過有關(guān)文博方面的方針、政策及法令法規(guī)，負(fù)責(zé)籌備組建了全國文物鑒定委員會。主持制定了《國家文物鑒定委員會條例》《文物藏品定級標(biāo)準(zhǔn)》《關(guān)于搞好古代文物復(fù)制、仿制工作的有關(guān)問題的通知》《關(guān)于加強非文物部門收藏文物安全保護(hù)工作的有關(guān)問題的通知》《外國文物鑒定參考標(biāo)準(zhǔn)》《文物出境鑒定管理規(guī)定》等文物管理規(guī)定和條例，由國家文物局頒發(fā)全國執(zhí)行。

在任國家文物流通中心主任期間，對全國館藏文物、涉案文物、特許出口文物、國外交換文物進(jìn)行鑒定、定級和評估。1986年率團(tuán)赴荷蘭考察中國古代沉船文物拍賣，對保護(hù)我國領(lǐng)海文物和開拓水下考古起了促進(jìn)作用。為了解國際市場信息，在香港、英國設(shè)立中國文物分店。代表國家到美國舉辦了中國文物展覽會。對文物交流、保護(hù)文物、防止國家重點文物的外流等方面都做出了重要的貢獻(xiàn)。

劉巨成多次主持舉辦全國文物博物館干部學(xué)習(xí)班、鑒定班、研討班，培養(yǎng)了一大批業(yè)務(wù)骨干。在文化學(xué)院籌備、組建了全國第一個高校的文博系，并擔(dān)任教學(xué)工作，編寫講義有《流散文物管理綜論》《文物鑒定在文物保護(hù)和管理中的地位和作用》《文物出境的鑒定和管理》《鑒定工作的任務(wù)應(yīng)遵循的基本原則與方法》等文物理論教材。