930年參加中國工農(nóng)紅軍，同年9月起任紅軍十八縱隊司令部勤務(wù)員、司號員，11月起任紅五師二團號長兼青年干事，紅五師政治部宣傳員。

1931年10月起在紅軍醫(yī)院休養(yǎng)。

1932年1月起任紅軍第一后方醫(yī)院司號員，青年干事。1932年8月起任紅一軍團政治部撫恤干事，破壞干事，宣傳員。

1934年6月起任紅一軍團一師政治部宣傳隊長。參加了 長征。

1935年9月起任紅一軍團十三團三連指導(dǎo)員。

1937年任紅一軍團一師三團教導(dǎo)員。

抗日戰(zhàn)爭爆發(fā)后，任八路軍第一一五師三四三旅營政治教導(dǎo)員。

1939年4月起任冀察熱挺進軍第三十二團總支書記。

1940年3月起任挺進軍第三十三團（后改七團）政治處主任。

1941年11月起任 晉察冀七團政治委員。

1943年9月起任 晉察冀軍區(qū)第十一軍分區(qū)副政治委員兼政治部主任。解放戰(zhàn)爭時期，

1945年8月起任晉察冀野戰(zhàn)軍冀察縱隊七旅副政治委員。

1946年6月至1949年2月任晉察冀野戰(zhàn)軍、華北軍區(qū)第二縱隊五旅政治委員。

1949年2月起任中國人民解放軍第六十七軍一九九師師長兼政治委員。

中華人民共和國成立后，1949年12月至1951年7月任 陸軍第六十七軍一九九師師長。

1951年7月起任陸軍第六十七軍副軍長。

1951年至1952年任中國人民志愿軍第六十七軍副軍長。

1952年7月至1954年在解放軍軍事學(xué)院速成系學(xué)習(xí)。

1955年3月至1968年1月任陸軍 軍長。

1968年1月至1970年6月任濟南軍區(qū)副司令員、軍區(qū)黨委常委（1968年4月起）。

1970年6月至1975年9月任第一機械工業(yè)部革委會主任、部長，黨的核心小組組長。

1975年8月至1977年9月任南京軍區(qū)副司令員、軍區(qū)黨委常委。

1977年8月至1982年9月任中共中央軍委委員。

1977年9月至1982年11月任第二炮兵司令員、第二炮兵黨委第一書記（1977年11月起）。

李水清，8歲就給地主放牛。1930年，紅軍到了李水清家鄉(xiāng)，13歲的李水清參加了紅軍，他參加了連隊100余人，僅有十幾支槍，其余是梭鏢和大刀，李水清因年紀(jì)小，連大刀也沒有。

抗日戰(zhàn)爭，李水清是 八路軍115師343旅營教導(dǎo)員。他在部隊學(xué)習(xí)刻苦，成為文化水平高的政工干部。紅軍換裝時，很多干部戰(zhàn)士想 不通，李水清用“犒師救國”的典故啟發(fā)大家看一個人是否愛國，既要看他的言論，又要看他的行為。光從裝束打扮上是衡量不出一個人是否愛國的。李水清在 平型關(guān)戰(zhàn)斗中負傷。

他擔(dān)任團政治處主任時，所在團編入冀察熱挺進軍，以后他擔(dān)任 晉察冀軍區(qū)第7團政委。

1939年，7團編入 平西部隊，1942年平西改編為 晉察冀軍區(qū)第11軍分區(qū)，7團是第11軍分區(qū)的主力。李水清當(dāng)時率領(lǐng)的武工隊十分活躍。日軍控制了許多“聯(lián)莊會”， 李水清率武工隊打掉了黃土梁的“聯(lián)莊會”據(jù)點，震動很大，桃花川“聯(lián)莊會”的會首急于與7團聯(lián)系，李水清借 上寺村村長給兒子娶親，各“聯(lián)莊會” 會首和偽軍頭目均來赴宴的機會，突然出現(xiàn)在酒宴上，當(dāng)時參加酒宴的人們都驚呆了，李水清談笑風(fēng)生，闡明我軍對“聯(lián)莊會”的政策，“聯(lián)莊會” 眾會首均折服，后來這些“聯(lián)莊會”都掩護了八路軍。

解放戰(zhàn)爭，李水清任67軍199師師長。 太原戰(zhàn)役，總前委決定先打太原城，后攻 臥虎山，199師的任務(wù)是鉗制臥虎山之?dāng)�。他派了一個小分隊摸進敵軍的一個碉堡，意外俘虜了守敵師長和副師長。李水清認為敵軍失去師長，軍心大亂，不如乘勢攻下臥虎山。軍長認為總前委決定先打太原城，后攻臥虎山，不能違背。李水清冒著違抗軍令的風(fēng)險，自行指揮199師攻打臥虎山。戰(zhàn)斗打響后，兵團司令員 楊成武打電話詢問戰(zhàn)況，李水清說進展順利，楊成武說給他兩天時間，李水清說明天中午之前保證拿下臥虎山。李水清指揮199師10個小時拿下了臥虎山。事后楊成武說：積極的相機而行可不是一件簡單的事，這需要氣魄，需要膽略，需要敢于承擔(dān)責(zé)任的勇氣，這種素質(zhì)，是一名指揮員優(yōu)秀品質(zhì)的體現(xiàn)。

開國大典時，199師參加閱兵式，李水清走在199師隊列的最前面，這一年他32歲。

1951年，他入朝作戰(zhàn)，擔(dān)任67軍副軍長兼199師師長。在秋季防御戰(zhàn)役中，67軍激戰(zhàn)金城川三日，頑強抗擊了敵人3天的猛烈攻勢，勝利地粉碎了敵人的全面進攻，重創(chuàng)美軍第7師。全軍3天共殲敵17000多人，創(chuàng)造了朝鮮戰(zhàn)場日殲敵的最高紀(jì)錄，志愿軍司令部、兵團均發(fā)電予以表揚。被朝鮮民主主義人民共和國授予二級國旗勛章和二級自由獨立勛章。

1958年毛澤東接見濟南軍區(qū)領(lǐng)導(dǎo)干部。當(dāng)時軍以上領(lǐng)導(dǎo)干部列隊歡迎。 毛澤東進入會場，見李水清，呼之曰：“小李子”。李水清精神抖擻，邁步“蹬蹬”上前敬禮。毛澤東笑呵呵：“小李子不長個子，只長精神�！�

文革期間，李水清1969年5月任山東省革命委員會黨的核心領(lǐng)導(dǎo)小組成員，6月任山東省革命委員會副主任，和 李耀文一起成為 楊得志的得力助手。1970年，他擔(dān)任第一機械工業(yè)部革命委員會主任。1975年，他擔(dān)任第一機械工業(yè)部部長，同年 鄧小平同意他回軍隊，他擔(dān)任了南京軍區(qū)副司令員。李水清后來回憶說：“那是非常時期，總理點將，趕鴨子上架，外行管內(nèi)行， 不得已而為之。所以，鄧主席一復(fù)出，我就馬上寫辭職書請求調(diào)回軍隊干老本行。”