1928年加入蘇聯(lián)共產(chǎn)黨。1919年參加蘇軍。畢業(yè)于騎兵學(xué)校(1926)、伏龍芝軍事學(xué)院(1936)和總參軍事學(xué)院(1941)。參加國內(nèi)戰(zhàn)爭時(shí)，為騎兵第1集團(tuán)軍第11師列兵。騎兵學(xué)校畢業(yè)后，在莫斯科軍區(qū)獨(dú)立騎兵第1旅任排長、連長。1938年10月任白俄羅斯特別軍區(qū)特別騎兵師參謀長。1939年9月參加了西白俄羅斯解放進(jìn)軍。

　　衛(wèi)國戰(zhàn)爭初期，格列奇科在總參謀部工作。1941年7月，根據(jù)本人請(qǐng)求調(diào)往西南方面軍，任獨(dú)立騎兵第34師師長。該師在普里盧基市地區(qū)組建后，于8月上半月在基輔以南投入同德軍的戰(zhàn)斗，至1942年1月先后在第26、第38和第6集團(tuán)軍編成內(nèi)，參加了第聶伯河左岸烏克蘭地區(qū)的作戰(zhàn)。1942年1月18日任騎兵第5軍軍長，參加了巴爾文科沃—洛佐瓦亞進(jìn)攻戰(zhàn)役。1942年3月12日起任戰(zhàn)役軍隊(duì)集群司令，在南方面軍編成內(nèi)同頓巴斯地區(qū)的優(yōu)勢之?dāng)尺M(jìn)行頑強(qiáng)作戰(zhàn)。1942年4月15日起任第12集團(tuán)軍司令，擔(dān)負(fù)伏羅希洛夫格勒方向的防御任務(wù)。后，該集團(tuán)軍積極參加了高加索戰(zhàn)役。
　　1942年9月任第47集團(tuán)軍司令，該集團(tuán)軍阻止了敵軍通過新羅西斯克沿黑海沿岸向外高加索的推進(jìn)，使敵人未能據(jù)有新羅西斯克港口。1942年10月19日調(diào)任第18集團(tuán)軍司令，該集團(tuán)軍遏止了敵人的進(jìn)攻，并于11月以部分兵力成功地實(shí)施了殲滅企圖翻越高加索主山脈的敵塞馬施集團(tuán)的戰(zhàn)役。
　　1943年1月外高加索方面軍轉(zhuǎn)入總攻后，1月5日起格列奇科任第56集團(tuán)軍司令，指揮該集團(tuán)軍在黑海軍隊(duì)集群地帶內(nèi)擔(dān)任主要突擊，經(jīng)過激烈戰(zhàn)斗，突破敵軍堅(jiān)固防御，前出至克拉斯諾達(dá)爾接近地。2—4月，第56集團(tuán)軍在北高加索方面軍編成內(nèi)，參加克拉斯諾達(dá)爾進(jìn)攻戰(zhàn)役。9月，第56集團(tuán)軍在新羅西斯克—塔曼戰(zhàn)役中，同第9集團(tuán)軍和第18集團(tuán)軍協(xié)同，解放了塔曼半島。粉碎庫班河流域的德國法西斯軍隊(duì)之后，10月16日被任命為沃羅涅日方面軍(10月20日改為烏克蘭第1方面軍)副司令，參加解放烏克蘭首都基輔的作戰(zhàn)。
　　1943年12月15日格列奇科調(diào)任近衛(wèi)第1集團(tuán)軍司令，任此職直至戰(zhàn)爭結(jié)束。12月24日，該集團(tuán)軍編入方面軍主要軍隊(duì)集團(tuán)，轉(zhuǎn)入進(jìn)攻，解放了日托米爾，并在日托米爾—?jiǎng)e爾季切夫戰(zhàn)役中向前推進(jìn)了180公里。爾后，近衛(wèi)第1集團(tuán)軍參加了1944年普羅斯庫羅夫—切爾諾維策戰(zhàn)役進(jìn)攻戰(zhàn)役，在卡緬涅茨—波多利斯克市地域參加了合圍和粉碎敵坦克第1集團(tuán)軍的作戰(zhàn)。1944年近衛(wèi)第1集團(tuán)軍在利沃夫—桑多梅日戰(zhàn)役中，連戰(zhàn)皆捷。1944年8月5日，該集團(tuán)軍編入烏克蘭第4方面軍。1944年9—11月，參加?xùn)|喀爾巴阡戰(zhàn)役，同第38集團(tuán)軍和第18集團(tuán)軍一起越過東喀爾巴阡山脈，從德軍手中全部解放了烏克蘭外喀爾巴阡地區(qū)，并進(jìn)抵捷克斯洛伐克境內(nèi)。1945年1月，在西喀爾巴阡戰(zhàn)役中，近衛(wèi)第1集團(tuán)軍從北面繞過塔特拉山，通過波蘭南部地區(qū)向捷克斯洛伐克的摩拉瓦—俄斯特拉發(fā)工業(yè)區(qū)突進(jìn)。在摩拉瓦—俄斯特拉發(fā)進(jìn)攻戰(zhàn)役中，突破敵軍堅(jiān)固的防御地區(qū)，于4月30日同第38集團(tuán)軍一道解放了大工業(yè)中心摩拉瓦—俄斯特拉發(fā)市。繼而從捷克斯洛伐克東部邊境一直打到布拉格，于1945年5月又參加了粉碎德軍的布拉格戰(zhàn)役。衛(wèi)國戰(zhàn)爭時(shí)期，格列奇科指揮歷次戰(zhàn)役，一向作戰(zhàn)意圖大膽，且為實(shí)施其意圖堅(jiān)定不移。

　　戰(zhàn)后，1945—1953年任基輔軍區(qū)司令。1953年任蘇軍駐德軍隊(duì)集群總司令。1957年11月任蘇聯(lián)國防部第一副部長、陸軍總司令。1960年任蘇聯(lián)國防部第一副部長兼華沙條約締約國聯(lián)合武裝部隊(duì)總司令。1967年4月任蘇聯(lián)國防部部長，任此職期間，為進(jìn)一步加強(qiáng)蘇聯(lián)防御能力做了大量工作。多次當(dāng)選為黨的代表大會(huì)代表。1952—1961年為蘇共中央候補(bǔ)委員，1961年起為蘇共中央委員，1973年4月起為中央政治局委員。蘇聯(lián)第二屆和第四—九屆最高蘇維埃代表。他特別重視軍事科學(xué)工作，曾任多卷本《第二次世界大戰(zhàn)史(1939—1945)》和《蘇聯(lián)軍事百科全書》總編委員會(huì)主任委員。捷克斯洛伐克社會(huì)主義共和國英雄(1969)。獲列寧勛章6枚，紅旗勛章3枚，一級(jí)蘇沃洛夫勛章2枚，一級(jí)庫圖佐夫勛章2枚，一級(jí)波格丹·赫梅利尼茨基勛章2枚，二級(jí)蘇沃洛夫勛章1枚，獎(jiǎng)?wù)录巴鈬鴦渍露嗝叮瑯s譽(yù)武器1件。葬于紅場克里姆林宮墻下。海軍學(xué)院以其名字命名。

　　著作：《崇高的使命》，莫斯科1962版；《保衛(wèi)和平和建設(shè)共產(chǎn)主義》，莫斯科1971年版；《越過喀爾巴阡山》，莫斯科1972年第2版；《高加索會(huì)戰(zhàn)》，莫斯科1973年第2版；《解放基輔》(軍事歷史概述)，莫斯科1973年版；《蘇維埃國家的武裝力量》，莫斯科1975年第2版；《戰(zhàn)爭年代(1941—1943)》，莫斯科1976年版。