1929年1月參加中國工農(nóng)紅軍，2月加入中國共產(chǎn)黨。曾任商城縣游擊隊小隊長、中隊長，商城縣蘇維埃政府常務委員，紅軍獨立第四師特務營班長、排長兼支部書記。1930年8月任機槍連連長兼政治委員。1931年任紅四方面軍紅二十五軍第七十四師連政治指導員、營教導員，第七十五師二二三團一營政治委員。參加創(chuàng)建發(fā)展鄂豫皖革命根據(jù)地的斗爭和多次反“圍剿”作戰(zhàn)。1932年10月紅四方面軍主力西征后留在原地堅持斗爭。1932年冬任重新成立的紅二十五軍第七十三師營政治委員。1934年任第七十三師第230團政治委員。率部參加鄂豫皖革命根據(jù)地后期的多次反“圍剿”作戰(zhàn)。同年11月隨軍長征，參加創(chuàng)建鄂豫陜游擊根據(jù)地的斗爭。1935年9月隨軍到達陜北，12月任紅十五軍團第七十五師副師長。1936年2月任第七十五師政治委員。率部參加東征，西征戰(zhàn)役。1937年初入延安紅軍大學第二期學習�？谷諔�(zhàn)爭時期先后任八路軍一一五師三四四旅六八七團副團長，旅政治部副主任兼后方留守處政治委員，挺進縱隊政治委員，冀魯豫支隊第二大隊政治委員，第二縱隊第三四四旅副旅長，新四軍第三師第八旅副旅長。1944年任蘇北軍區(qū)民兵總指揮。1945年5月任鹽阜軍分區(qū)副司令員。率部參加開辟發(fā)展冀魯豫、淮北抗日根據(jù)地和堅持敵后游擊戰(zhàn)爭。解放戰(zhàn)爭時期歷任華中野戰(zhàn)軍第十縱隊副司令員，華東野戰(zhàn)軍第十二縱隊副司令員，華中軍區(qū)副參謀長兼后勤司令部司令員，蘇北軍區(qū)副司令員。率部參加解放華東的多次重要戰(zhàn)役戰(zhàn)斗。中華人民共和國成立后，歷任蘇北軍區(qū)副司令員、江蘇軍區(qū)第二副司令員、江蘇省軍區(qū)副司令員等職。1955年被授予中將軍銜和一級八一勛章、一級獨立自由勛章、一級解放勛章。1988年7月被授予一級紅星功勛榮譽章。

常玉清是河南省商城縣人，1905年出生。13歲放牛，18歲燒炭。 1929年參加農(nóng)民暴動，任商城縣游擊隊小隊長、中隊長、分隊長。曾率領游擊隊襲擊敵軍修械所，殲敵近一個連。同年加入中國共產(chǎn)黨。 1930年編入紅1軍獨立師，任特務營班長、排長、紅9軍80團特務營機槍指導員兼連長、紅25軍75師223團營政委，長征中率部連續(xù)攻克河風橋、高家棚、草廟集、 豆腐甸，到達陜北。 1935年任73師230團政委，參加勞山戰(zhàn)役和強攻榆林鎮(zhèn)。直羅鎮(zhèn)戰(zhàn)役，敵109師師長牛元峰糾集殘部在一個寨子里頑抗，常玉清所在團負責攻打寨子，周恩來指示趕敵出寨，在運動中消滅敵人。常玉清和團長放開了一個口子，敵逃出后追殺20 里，牛元峰亦被擊斃。紅25軍改編為紅15軍團75師，常玉清任副師長、政委，參加東征和西征。西安事變后入紅軍大學高干班學習�？谷諔�(zhàn)爭開始，紅15軍團改編為八路軍115師344旅，常玉清任687團副團長，參加了平型關戰(zhàn)斗。進至晉東南 ，做后方機關工作，舉辦教導隊輪訓干部，籌建小型兵工廠、被服廠，并組織了 1500人的游擊隊。1938年他任344旅旅政治部副主任，收編了一支游擊隊，組建了 一個支隊和一個營。1939年任冀魯豫支隊2大隊政委、八路軍第2縱隊新二旅副旅長。 1940年，344旅南下華中，他組建了淮北游擊大隊和湖北游擊隊。1941年常玉清任 新四軍3師8旅副旅長，積勞成疾，養(yǎng)病年余。常玉清病愈后到地方上擔任蘇北民兵總指揮部總指揮。1946年，常玉清擔任華中野戰(zhàn)軍10縱副司令員，在粟裕的蘇中七戰(zhàn)七捷中，常玉清扮演了重要角色。這一年的8月，國民黨軍25師向邵伯發(fā)動 進攻。邵伯是揚州北面的一個大鎮(zhèn)，是兩淮的南大門，失去邵伯就失去了運河。粟裕部署10縱堅守邵伯。10縱是由地方部隊組建，未經(jīng)大戰(zhàn)考驗。常玉清指揮部隊在運河大堤構(gòu)筑主陣地，在邵伯鎮(zhèn)入口構(gòu)筑副陣地，戰(zhàn)斗打響后，爭奪十分激烈，直至在大堤上展開白刃戰(zhàn)。第叁天，常玉清及時換上82團，挫敗了敵人的總攻。第四天，敵25師調(diào)來主力團，仍不能越過常玉清的防線。邵伯保衛(wèi)戰(zhàn)，以我軍勝利告終，敵傷亡2000人，我軍傷亡1200人。     

粟裕大將后來給常玉清很高的評價：“我守衛(wèi)邵伯的部隊是剛由地方部隊升級而成的第10縱隊的叁個團和兩個分區(qū)的地方團，雖然訓練不多，但士氣旺盛。當時我們指定常玉清同志指揮。同志們知道，元末明初朱洪武有個大將叫常遇春，打過采石磯。我們在邵伯指揮作戰(zhàn)的是10縱隊的副司令常玉清，名字差不多。部隊與敵人進行了多次白刃肉搏戰(zhàn)，經(jīng)四晝夜的連續(xù)激戰(zhàn)，敵人終于被我擊退。

常玉清后擔任華東野戰(zhàn)軍12縱副司令員、華中軍區(qū)副參謀長、蘇北軍區(qū)副司令員。建國后，常玉清任江蘇省軍區(qū)副司令員。1965年因病離職休養(yǎng)。 常玉清1955年被授予少將軍銜。獲一級八一勛章、一級獨立自由勛章、一級解放勛章、一級紅星功勛榮譽章。1991年去世。