式少有志操，好學(xué)問。年十八、九辭家居廬山，假書以讀，五、六年不歸。其業(yè)精出，文獻(xiàn)獨(dú)得唐遺風(fēng)。禮部取士，難其人甚，張洎主文，獨(dú)放式一人。謂南唐進(jìn)士第一人。

公元975年，宋統(tǒng)一南唐，其學(xué)識才干得宋主重用，任大理丞出監(jiān)通州豐倉入判三司都磨勘司。時財賦充斥，無所稽核。式創(chuàng)主轄支收司，令在三司下設(shè)都磨勘司，奸吏畏服，為朝廷財稅作出了巨大貢獻(xiàn)。其法謂之“三年磨勘之法”，人尊稱其為“劉磨勘”。

淳化中奉使往諭三韓，酋長歸化，轉(zhuǎn)大常博士，又改工部員外郎、刑部郎中。

宋大宗賜御書又帖十六軸，以示獎嘗。

至道三年，宋太宗逝，宋真宗趙恒繼位。鹽運(yùn)使李惟清指使他人誣告式藐視朝廷，遭免職。不久郁恨而死，年四十九。后宋真宗為其平反昭雪，追贈為禮部尚書。

家有藏書數(shù)千卷，辟“墨莊”藏之，藏書地點(diǎn)在揚(yáng)州。卒后，其妻陳氏指遺書教戒諸子說：先大夫秉性清潔，有書數(shù)千卷遺留給后人，是“墨莊”也。于是諸子皆以苦學(xué)，并為郎官，其妻亦被稱為“墨莊夫人”。墨莊藏書傳至南宋，劉氏藏書歷經(jīng)了五代傳人，岳飛在紹興六年（1136）為劉氏后人書有“墨莊”二字。墨莊原藏書散失于靖康之亂，劉式之曾孫劉滁(1100～1159),字全因，號豐園。念先世所藏散亡，節(jié)衣縮食，悉力營聚，至紹興二十二年(1152)，又收圖籍?dāng)?shù)千卷，藏書規(guī)模始復(fù)其舊，建立了新的墨莊藏書，并世代相傳。