明洪武十四年(1381年)，文肅以“孝悌力田”被推薦入京取士。皇帝朱元璋見他身材魁異，才識非凡，感嘆說：“真是人才，出何晚也”，問他，“卿欲何官？”答曰：“爵位惟上所與，臣下不敢自專”。帝大喜，遂持筆改其名為“文肅”，授淮安(今江蘇淮安縣)知府。

陳文肅在淮安任內(nèi)興修水利，力除盜賊，大得人心。皇帝察問淮安儒生錢受祿：“淮安何官能體朕心”？答曰：“唯知府陳文肅”。于是升陳文肅為四川提刑按察使，洪武十七年(1384年)又為禮部尚書，但在赴任途中，病逝于南京竹橋官舍，年58歲。