古斯塔夫·路德維希·赫茲于1887年7月22日出生在 漢堡，父親古斯塔夫·赫茲博士是一位 律師，母親是Auguste, née Arning。赫茲在漢堡完成中學學業(yè)后，于1906年在 哥廷根大學（1906年—1907年）開始了大學學習，相繼又在 慕尼黑大學（1907年—1908年）和 柏林洪堡大學（1908年—1911年）學習，1911年獲得博士學位，導師是海因里希·魯本斯（Heinrich Rubens，1865年—1922年）。1913年 ，赫茲被任命為柏林物理研究所的助理研究員，但是由于 第一次世界大戰(zhàn)的爆發(fā)，他在1914年應征入伍，在1915年的一次行動中嚴重受傷。1917年，赫茲回到 柏林擔任講師，1920年至1925年間在 埃因霍溫 飛利浦白熾燈廠的物理實驗室工作。

1925年，赫茲被選為 哈勒大學物理研究所的 教授和主任，1928年再次回到柏林任夏洛特堡工程大學（即 柏林工業(yè)大學）物理研究所主任，出于政治原因，赫茲在1935年辭去了這個職務，回到工業(yè)界，在 西門子公司的研究實驗室任主任。后來又前往 萊比錫的卡爾·馬克思大學（即 萊比錫大學）的物理研究所任教授和主任，期間的1945年至1954年，他還在 蘇聯(lián)的一家研究實驗室任主管。赫茲在1961年退休后居住在萊比錫，后來移居柏林。

古斯塔夫·赫茲的早期研究，涉及到對 二氧化碳的 紅外吸收與 壓力和局部壓力的關系。1913年，他與 詹姆斯·弗蘭克合作，開始了對 電子研究，在他1913年應征入伍之前，他對各種 氣體的 電離勢進行了很多耐心的研究和測量。1912年至1913年間，古斯塔夫·赫茲與同在 柏林大學任教的詹姆斯·弗蘭克完成了電子碰撞的 弗蘭克-赫茲實驗，赫茲提出了電子在與 原子碰撞時， 譜線群和 能量損失相對于原子靜態(tài)能量狀態(tài)的定量關系，這一結果與 玻爾關于原子結構的理論完全一致，后來成為了玻爾原子理論和 普朗克 量子理論正確性的重要證據(jù)。古斯塔夫·赫茲和詹姆斯·弗蘭克也因此獲得1925年 諾貝爾物理學獎。

在1928年返回柏林后，赫茲的第一項任務是重建物理研究所和學校，通過他的不懈努力，這一目標得以實現(xiàn)。他在柏林物理研究所負責研究一種通過擴散級聯(lián)方式來分離 氖的 同位素的方法。

赫茲曾單獨或與詹姆斯·弗蘭克及Kloppers合作發(fā)表過許多論文，對電子和原子之間的能量交換進行了定量的研究，對電離勢進行了測量。他還寫了許多有關分離同位素的論文。

古斯塔夫·赫茲是 德國科學院的院士和哥廷根科學院的 院士，他同時還是 匈牙利科學院的榮譽院士、捷克斯洛伐克科學院的院士和蘇聯(lián)科學院的外國院士，曾獲得 德國物理學會的馬克斯·普朗克獎章。

古斯塔夫·赫茲于1919年同Ellen née Dihlmann結婚，他妻子1941年去世，他們的兩個兒子都是物理學家，卡爾·赫爾穆特·赫茲（Carl Hellmuth Hertz，1920年—1990年）是隆德工程大學的教授，另一個兒子約翰內斯·赫茲（Johannes Hertz）則在德國科學院的光譜學研究所工作。

1943年，古斯塔夫·赫茲與他的第二任妻子Charlotte, née Jollasse結婚。