靳云鵬1877年生于山東省山東省兗州府鄒縣苗莊村（今鄒城市嶧山鎮(zhèn)苗莊村）的一個普通農(nóng)家，其父名為靳長生。后遷往濟寧。靳家兄弟姐妹7人，靳云鵬在三兄弟中居長。靳父先逝，依靠寡母邱氏賣煎餅、當奶媽為生（靳母作過潘復(fù)的乳母）維持生計，靳氏兄弟姐妹也常走街叫賣。靳云鵬8歲時入私塾讀書，五、六年后，因家中生活拮據(jù)，便到南關(guān)柳行街當勤雜工。

1894年（光緒20年）18歲時，因生活所迫與弟弟靳云鶚投奔了袁世凱在天津小站督練的“新建陸軍”，隸屬于段祺瑞部下。后兩度到軍校學(xué)習(xí)。4年后，被選入附設(shè)炮隊隨營武備學(xué)堂第1期學(xué)習(xí)。畢業(yè)后留任教習(xí)，深得該學(xué)堂監(jiān)督段祺瑞的賞識和器重，與徐樹錚、吳光新和傅良佐同列而被稱為皖系四大金剛。1902年任北洋軍政司（后改北洋督練公所）參謀處提調(diào)。改任浙江新軍標統(tǒng)。1909年（宣統(tǒng)元年） ，經(jīng)段薦舉，調(diào)任云南清軍第19鎮(zhèn)總參議。1911年（宣統(tǒng)3年） ，蔡鍔、李根源等在昆明發(fā)動新軍起義時他在五華山抵抗，戰(zhàn)敗后化裝成轎夫逃至湖北，任清軍第1軍總參贊官。

1912年，中華民國成立，3月，袁世凱竊取辛亥革命勝利果實，登上臨時總統(tǒng)座位。1912年7月經(jīng)段祺瑞舉薦，靳云鵬任第5鎮(zhèn)統(tǒng)制，并會辦山東軍務(wù)，同年9月授陸軍中將，經(jīng)段祺瑞向袁世凱保薦，再任北洋軍第5師師長，1913年8月暫行代理山東都督，并加陸軍上將銜，12月正式任命。兩年后，又被袁世凱任命為泰武將軍，督理山東軍務(wù)。隨之發(fā)跡，除經(jīng)營濟南的魯豐紗廠等數(shù)家企業(yè)外，還有2．5萬余畝土地。1915年，袁世凱密謀稱帝，9月15日，他參與14省將軍聯(lián)名電請袁世凱登基。1915年12月被袁授封一等伯爵。1916年4月，又迫于反袁勢態(tài)，密電各省，準備聯(lián)名通電袁取銷帝制，因人告密而遭袁忌恨。于5月30日調(diào)將軍府將軍，6月授果威將軍。但卻因此得“反對帝制”的美名。

袁世凱死后，黎元洪任大總統(tǒng)，段祺瑞以內(nèi)閣總理控制北洋政府大權(quán)，靳效忠段之武力統(tǒng)一全國政策和親日政策，受重用，被委任為將軍府果威將軍、參戰(zhàn)陸軍辦公處主任、邊防軍教練處長等要職。

1917年他借參戰(zhàn)之名，編練參戰(zhàn)軍，擴充皖系勢力；11月間，又赴日考察，推行親日外交。12月任馮國璋總統(tǒng)的侍從武官長。次年3月升任北京政府參戰(zhàn)督辦事務(wù)處參謀處處長。曾代表北洋政府先后與日本簽訂了《中日陸軍共同防敵軍事協(xié)定》、《中日海軍共同防敵軍事協(xié)定》等3個喪權(quán)辱國條約。

段祺瑞下臺，徐世昌繼任大總統(tǒng)后，他于1919年初入閣，任陸軍總長，暗中聯(lián)絡(luò)直奉兩系，圖謀組閣。徐世昌為平衡各派勢力，鞏固其統(tǒng)治地位，于1919年9月24日，任命他代理剛辭職的龔心湛任國務(wù)總理。在直奉兩派通電支持和參、眾兩院通過后，于11月5日，正式受命組織內(nèi)閣，并兼任陸軍總長。他上臺后，不堪忍受段祺瑞的非議與責難，力圖擺脫其控制，并想促成南北議和，因段從中作梗而作罷。由于軍閥互相傾軋，靳因不堪夾在直、皖爭端中，遂于1920年5月10日通電，以“待罪樞垣，瞬經(jīng)八月，才疏任重，無補時艱，近因患疾，迭請辭職，幸蒙批準給假，今日交卸”為由，請求辭去內(nèi)閣總理職務(wù)，同年8月任陸軍總長，10月授陸軍上將。

在直、皖之爭中，奉系軍閥張作霖以“調(diào)停時局”為名入京，聯(lián)直排皖，遭到段祺瑞的親信徐樹錚的憤恨，欲將其捕殺，靳云鵬將此密報與張，使其得以幸免。在張作霖把持了軍政大權(quán)后， 于1920年8月力薦他再度組閣兼陸軍總長。直皖戰(zhàn)爭后皖系失去大部分勢力，他卻成為各方都能接受的紅人，他與張作霖、曹錕、徐世昌一起，召開了“四巨頭會議”，商定控制北京政權(quán)的大計。由于靳是皖系，在奉系、直系權(quán)利斗爭的旋渦中，如履薄冰，因派系之爭，以及與徐世昌在財稅及人事等方面的矛盾惡化，張作霖也以為他偏袒直系，迫使他于1921年12月11日再次辭去內(nèi)閣總理職務(wù)。

靳云鵬下臺后寄居天津英租界過著寓公生活，并未忘情于政治。1926年12月，張作霖在天津蔡園舉行會議，決定以安國軍總司令名義任命靳云鵬為內(nèi)閣總理，但因吳佩孚反對組閣，使靳的再度組閣成為泡影。

1929年靳云鵬以延福堂名義向英工部局購得租界內(nèi)比道15號（今四川路2號）一地，建成一所庭院式洋樓，過著半隱居生活，并潛心于佛教。他同時也致力于辦實業(yè)，與日本大倉系財閥合辦膠東魯大礦業(yè)公司，代表中方出任理事長兼總經(jīng)理。還在濟寧、濟南等地廣置房宅和田產(chǎn)，又與人合伙投資在濟南開設(shè)魯豐紗廠，還在濟寧等地開辦電燈公司、濟寧面粉公司等企業(yè)。據(jù)不完全統(tǒng)計，從1908年到1926年的18年中，他獨家投資或合伙經(jīng)營企業(yè)有20多家，擁有資產(chǎn)6500萬元之多。

“七七事變”以后， 日本侵略軍曾請在天津做寓公的靳云鵬出山組織華北偽政權(quán)，維持華北局面，他與徐世昌密議“議和方案”，以承認“滿洲國”為條件，換取日軍撤出華北，恢復(fù)“七·七事變”前的局面，后日方認為他下臺較早，手中無實力，因而作罷。

1951年1月3日，在天津逝世。享年75歲。

靳云鵬是民國亂世之中較有影響的軍政人物之一。在北洋軍閥統(tǒng)治時期，他兩次出任國務(wù)總理，掌握軍政大權(quán)。論資望，靳云鵬在北洋派中僅次于王士珍、段祺瑞、馮國璋等人，與皖系、直系、奉系等派系要人都有較深刻的關(guān)系。靳云鵬在辛亥革命、袁世凱竊國、抗日戰(zhàn)爭等歷史事件中都發(fā)揮了一定的作用，見證和參與了20世紀上半葉的中國歷史。

靳云鵬當國務(wù)總理時，其書齋有一齋名"悠然堂"。有位朋友拿他斜眼的缺陷開玩笑，稱靳的斜眼無法“悠然見南山”。靳頓時大怒，馬上要摘掉書齋上“悠然堂”的匾。這位朋友又勸其不必摘匾，換下即可。于是靳另請名家寫了塊匾，叫“紅月樓”。取其家中珍存的兩件瓷器“古月軒”、“豇豆紅"名中各一字，定齋名為“紅月樓”。后來他印制了“紅月樓”書畫簽（石�。�，凡是他收藏的書畫都貼有此書畫簽。

靳云鵬晚年意志逐漸消沉，加入在天津英租界廣東路（今唐山路）的洋行買辦陳錫舟創(chuàng)辦的佛教徒“居士林”，并勸導(dǎo)另一軍閥孫傳芳皈依了佛門。陳錫舟去世后，他與孫等集資把城東南角的李氏家祠清修禪院擴建為新“居士林”，自任林長，此后專心誦經(jīng)禮佛。1935年，孫傳芳正是在天津居士林遇刺。

張作霖五女張懷曦曾同靳云鵬之子訂婚，但未結(jié)婚。1928年張作霖在皇姑屯事件中被炸死后，雙方解除了婚約。

靳云鵬的弟弟靳云鶚也是清末民初的一名將領(lǐng)，曾任北洋陸軍第十四師師長。

靳云鵬身為皖系骨干，段祺瑞手下的“四大金剛”（另三人為徐樹錚、曲同豐、傅良佐）之首，卻同時和直系、奉系政要關(guān)系密切；一手把持軍政大權(quán)，另一手伸向經(jīng)濟領(lǐng)域，錢權(quán)兩收；善打“政治麻將”（利用打麻將、吃喝嫖賭解決問題），玩弄權(quán)術(shù)，在軍閥內(nèi)亂、派系斗爭中多次轉(zhuǎn)換陣營，但在外敵面前尚能保持民族氣節(jié)。