1920年出生于中國東北。1930年冬，參加間島反日農(nóng)民運(yùn)動被捕，監(jiān)禁于西大門刑務(wù)所。出獄后回到間島參加共產(chǎn)主義活動。

1933年參加延吉縣反日游擊隊(duì)，1935年2月以中國共產(chǎn)青年團(tuán)琿春縣委員會責(zé)任秘書的身份參加大荒崴會議。1936年抗日游擊隊(duì)被改編，金日成成為東北抗日聯(lián)軍第一路軍第六師師長，金東奎成為其部下，在吳仲洽指揮的第六師第七團(tuán)內(nèi)活動。1939年7月，抗日游擊隊(duì)再次改編，任東北抗日聯(lián)軍第一路軍第三方面軍第14團(tuán)團(tuán)長。

1940年以后，抗日游擊隊(duì)由于受到日帝的討伐，被迫移至蘇聯(lián)后，隸屬蘇聯(lián)紅軍偵察隊(duì)，因多次在中國東北和朝鮮北部一帶組織偵察活動而聞名。

朝鮮半島光復(fù)后，沒有回到北朝鮮，而是與金光俠、趙明選、池丙學(xué)等游擊隊(duì)同僚們一起，為開展解放事業(yè)而進(jìn)入朝鮮人聚居的牡丹江地區(qū)，在那里率領(lǐng)被稱為“黃銅貨（即銅錢）”的朝鮮族部隊(duì)參加了解放戰(zhàn)爭，當(dāng)時作為中國人民解放軍的指揮官率軍跨過長江一直打到南方，積累了許多寶貴經(jīng)驗(yàn)。

1950年3月在中國河南省鄭州市，解放軍第四野戰(zhàn)軍的朝鮮族官兵被集中改編為獨(dú)立第15師遣送回朝鮮，金東奎任步兵第3團(tuán)團(tuán)長。該部于1950年4月從鄭州出發(fā)，回朝鮮后改編為第7師團(tuán)，很快又改稱第12師團(tuán)。1958年11月任駐蘇聯(lián)納霍德卡總領(lǐng)事。

金東奎在朝鮮受到矚目是從1960年代回國開始的。1961年9月當(dāng)選朝鮮勞動黨中央委員會委員（第4次代表大會）。1962年10月當(dāng)選最高人民會議第3屆代議員、法制委員會委員。1966年9月任朝鮮勞動黨平壤市委員會責(zé)任書記，10月當(dāng)選朝鮮勞動黨中央政治委員會候補(bǔ)委員。1967年11月當(dāng)選最高人民會議第4屆代議員，12月當(dāng)選最高人民會議常任委員會委員。1968年7月當(dāng)選朝鮮勞動黨中央書記局書記。1969年4月兼任朝鮮勞動黨中央國際部部長，率朝鮮勞動黨代表團(tuán)赴法國訪問。8月率朝鮮勞動黨代表團(tuán)參加羅馬尼亞共產(chǎn)黨第10次代表大會。

1970年11月當(dāng)選朝鮮勞動黨中央委員會委員、政治委員會（相當(dāng)于政治局）委員、中央書記局書記（第5次代表大會）、中央國際部部長，作為游擊隊(duì)出身者表現(xiàn)出罕有的外交才能，指揮著1970年代的朝鮮外交。1971年4月率朝鮮勞動黨代表團(tuán)參加保加利亞共產(chǎn)黨第10次代表大會。6月率朝鮮勞動黨代表團(tuán)參加德國統(tǒng)一社會黨第8次代表大會。1972年12月當(dāng)選最高人民會議第5屆代議員、代議員資格審査委員會委員長、中央人民委員會委員。1973年2月率朝鮮勞動黨代表團(tuán)赴蘇聯(lián)、波蘭、匈牙利、羅馬尼亞、民主德國、捷克斯洛伐克訪問。1974年11月最高人民會議第5屆4次會議補(bǔ)選為朝鮮民主主義人民共和國副主席。1975年4月隨同金日成赴羅馬尼亞、阿爾及利亞、毛里塔尼亞、保加利亞等國訪問。

曾在戰(zhàn)爭年代一臂負(fù)傷致殘的金東奎，一貫以剛正不阿聞名。因此70年代中期以后似乎對黨的后繼者金正日的專橫跋扈有所不滿。在此種情況下金東奎與金日成身邊的人發(fā)出了一些不和諧的聲音，在1977年左右被肅清。1977年12月最高人民會議第6屆第1次會議未再擔(dān)任朝鮮民主主義人民共和國副主席、中央人民委員會委員職務(wù)。此后從官方報導(dǎo)中非常消失。

1974年2月，金正日被正式確立為金日成的接班人，但遭到時任勞動黨中央書記、國家副主席的金東奎的反對。1976年6月，他在黨政治委員會會議上批評金正日“崛起得太快，人民并未能適應(yīng)”，反對金正日接任最高領(lǐng)導(dǎo)人之位，而漸漸失勢。1977年10月，金東奎及其支持者被冠以“毒害黨的唯一思想體系十大綱領(lǐng)罪”，開除黨籍，關(guān)入咸鏡北道化城郡Cochang里的政治犯收容所“第16號管理所”，此后不知所終。