蔣伯誠幼入私塾，后入杭州師范學(xué)堂，繼入蘇州武備學(xué)堂，畢業(yè)后任保定軍官學(xué)校教官。次年底，蔡鍔在云南反對袁世凱宣布獨立，蔣伯誠取道安南到昆明參加護國戰(zhàn)爭。繼投奔孫中山大元帥府，與蔣介石、顧祝同相處甚篤。北伐戰(zhàn)爭時，任國民革命軍第一路軍參謀長，由粵入閩浙，擊潰北洋軍閥孫傳芳部。1927年，任浙江省政府軍事廳廳長、浙江省防軍總司令兼杭州城防司令等職。浙江省政府主席張靜江離職后，代主席職。不久，被蔣介石派往北平任中央軍事委員會委員長代表，與張學(xué)良接觸頻繁，感情倍增，結(jié)金蘭之交。當(dāng)選為中國國民黨中央第六屆執(zhí)行委員會委員，蔣介石為分化西北軍，命其游說韓復(fù)榘，韓復(fù)榘在1929年叛離馮玉祥投蔣。中原大戰(zhàn)后，蔣介石封韓復(fù)榘為山東省政府主席，同時指派蔣伯誠為委員長代表、軍事聯(lián)絡(luò)員，常駐濟南。為掌握韓復(fù)榘，與其結(jié)拜兄弟，韓復(fù)榘將義妹、京劇名演員杜麗云給蔣伯誠作第三夫人。1936年，陳濟棠割據(jù)廣東，蔣介石派蔣伯誠赴粵策反，粵軍內(nèi)部分裂，割據(jù)失敗。抗戰(zhàn)爆發(fā)，韓復(fù)榘棄濟南，被蔣介石槍決，蔣伯誠負責(zé)處理山東事宜。不久，奉命潛入上海，組織敵后地下工作，成立上海工作統(tǒng)一委員會，與戴笠、杜月笙、吳開先、吳紹澍組成常委會，獲獵政治軍事情報，經(jīng)香港轉(zhuǎn)送陪都重慶。日本上海憲兵隊把蔣伯誠列為第一號通緝對象，致使居無常址，隨機應(yīng)變，連姓名也常更改。1944年間，突發(fā)腦血管破裂癥，在昏迷中被日本憲兵隊捕獲。日軍動用多種審訊手段，軟硬兼施，致使半身癱瘓，言語不清。1945年8月，日軍投降，以中央軍事委員會委員長駐滬代表身份，組成駐滬代表公署，召見汪偽上海市市長周佛海，責(zé)其維持上海秩序，保存資產(chǎn)，等候接管。后出任全國抗日蒙難同志會主席，又被任命為浙江監(jiān)察使，因病未到職，仍居上海。上海解放前夕，湯恩伯奉令接蔣伯誠全家去臺灣，蔣伯誠以身體衰弱棄政多年為由未赴臺灣。1952年在上海因病逝世。

蔣伯誠參加過護國戰(zhàn)爭、北伐戰(zhàn)爭并擔(dān)任高級將領(lǐng)，為國家的統(tǒng)一做出過重大的貢獻。在抗日戰(zhàn)爭時期，他潛入上海，成立上海工作統(tǒng)一委員會，獲取政治軍事情報，為抗日戰(zhàn)爭的勝利做出突出貢獻。曾捐獻《萬有文庫》一套計1186冊給暨陽中學(xué)。