后入美國籍生于烏克蘭首都基輔，母親是奧地利人。1911年移民維也納。1916年進入維也納音樂學院就讀

最初是個作曲家兼小提琴家，霍倫斯坦在20世紀20年代開始指揮。1916年起就讀于維也納音樂學院，1920年來到柏林。 首場演出在1922年，他與維也納交響樂團合作，曲目包括馬勒的第一交響曲，這部作品的詮釋直到指揮家去世后的十幾年仍然具有爭議性。他在柏林也與合唱隊總指揮Siegfried Ochs一起工作，并成為其助手。

霍倫斯坦的合唱指揮吸引了1922年新上任的柏林愛樂掌門人富特文格勒。他們的合作不僅對霍倫斯坦今后的職業(yè)生涯意義重大，而且對他的指揮風格產(chǎn)生了深遠影響。1927年富特文革勒指派霍倫斯坦在法蘭克福ISCM節(jié)期間給樂隊進行演出排練。演出曲目有尼爾森的第五交響曲和巴托克的第一鋼琴協(xié)奏曲。這次音樂會，和其它20年代后期柏林愛樂的演出一道，為霍倫斯坦日后的一些先入之見埋下了早期的根源。在柏林他指揮了馬勒第五和布魯克納第九，還有Karol Rathaus, Max Butting, Kurt Weill和阿蘭·伯格的新作

28到29年間他錄制了自己的首批唱片：在慕尼黑，他與Heinrich Rehkemper合作灌錄了馬勒的《亡兒之歌》——這也是這部作品的首次錄音；與柏林愛樂錄制了布魯克納的第七，海頓的驚愕，舒伯特的第五，兩首莫扎特的序曲，還有勛伯格的兩首巴赫眾贊歌前奏曲的改編曲（作于1922年，這里也是該作的首次錄音）。從這些演出中，我們可以發(fā)現(xiàn)這位年輕的指揮家對恢宏的長篇結(jié)構(gòu)具有驚人的掌控能力；管弦樂的音響清澈透明而又不失細節(jié)與重點，這成了他日后的顯著特征。

富特文革勒的保薦幫助他贏得了杜塞爾多夫歌劇院首席指揮的職務(wù)，隨后他又被提升為音樂總監(jiān)——這也是他僅有的終生任職。1933年3月因受到納粹對當權(quán)猶太人的排擠他被迫離開德國。而事實上從在杜塞爾多夫任職伊始他就一直受到不友好的對待。他在常規(guī)曲目中加入了許多當時的新作，包括值得紀念的1930年杜塞爾多夫版伯格的《沃采克》，1931年雅納切克的《死屋》，再加上他個人那時對標準曲目的處理方式，在當時普遍存在的反猶主義的煽風點火下，給他帶來的是媒體充滿敵意的尖刻評論。

在這般情況下，繼1929年和1930年分別走訪法國和俄羅斯之后，霍倫斯坦與1933年遷往巴黎，從那里他開始了在華沙，莫斯科和列寧格勒任客席的指揮生涯。在那兒他進一步提升由Oscar Fried和馬勒本人于一戰(zhàn)前就已經(jīng)奠定的作曲家在俄國的崇高威望。他也和熱衷于馬勒的肖斯塔科維奇建立了私人友誼。

他的足跡也遍及到了巴勒斯坦，1938年他主動承擔帶領(lǐng)巴勒斯坦交響樂團（現(xiàn)為以色列愛樂）整年演出季的工作。也是因為這一破天荒的巧合霍倫斯坦成了在歷史事件將瓦格納驅(qū)逐出門以前最后一位與此樂團合作演出這位德國偉大作曲家作品的指揮家。

1940年霍倫斯坦來到美國，起初執(zhí)教于社科研究所(New School of Social Research)，該所所謂的“移民”音樂教研室因為集中了諸如塞爾，克倫佩勒，萊因斯朵夫，艾斯勒，施托爾曼這批音樂家而聲名顯赫。盡管霍倫斯坦40年代初就成為了美國公民，他卻很少在美國指揮。即便如此，當美國歌劇迷在參加2001年1月大都會歌劇院的布梭尼Doktor Faust的首演時，也不應(yīng)該忘記霍倫斯坦早在1964年就在卡內(nèi)基音樂廳指揮了這部作品的美國首演（由費舍爾-迪斯考唱主角）。

1967年他與安德烈·普列文（Andre Previn）共同指揮了倫敦交響樂團在佛羅里達的夏季節(jié)慶系列音樂會，同時他也指揮學生管弦樂團。1966年11月他與舊金山歌劇院合作上演了《費加羅的婚禮》和雅納切克的《馬克羅波洛斯案件》。1969年11月他又與斯托科夫斯基的美國交響樂團合作馬勒第九。在1971年的一次與明尼蘇達交響樂隊的音樂會上，指揮剛開始尼爾森的第五交響曲就因心臟病突發(fā)而當場昏倒。

1947年他返回法國繼續(xù)歐洲的職業(yè)生涯。1948年他正好在以色列建國前夕出現(xiàn)在巴勒斯坦，1950年他指揮了馬勒的《大地之歌》（巴黎最早的演出之一），緊接著為法國廣播以音樂會的形式上演了《沃采克》的法國首演。1953年一個類似編排的雅納切克的《死屋》反映了大師試圖以這些自己的拿手曲目重現(xiàn)戰(zhàn)前有過的輝煌。他在巴黎時代最重要的錄音是1954年與EMI錄制的LP。這張錄有施特勞斯《變形曲》和斯特拉文斯基《詩篇交響曲》這樣怪癖曲目的LP在其發(fā)行當年即被授予了年度最佳唱片大獎

在從1952年Vox于維也納制作了首批唱片直到1959年期間，指揮和維也納交響以它自己的名稱和其它一系列化名錄制唱片；隨后在巴黎是與科隆管弦樂團，班貝格管弦樂團；在巴登-巴登是與SWDR樂團。

霍倫斯坦的歐洲職業(yè)生涯隨著同交響樂隊和歌劇院的簽約進一步擴展到了德國，意大利和英國。他與倫敦交響樂團的密切聯(lián)系始于1956年，那時他接替了在南非巡演中病倒的約瑟夫·克利普斯（Joseph Krips）。他出人意料地返回德國也是因為一個最后關(guān)頭的取消安排；在毫無準備和排練的情況下他指揮了RIAS樂團演出了勛伯格的《升華之夜》，受到觀眾的熱烈歡呼和輿論的一致好評。可是在德國工作終究是意氣不投，他也很少再回去過。

然而1959年在阿爾伯特音樂廳與倫敦交響合作的馬勒第八那傳奇般的演出確立了他在英國音樂界的崇高地位。音樂會非官方的海盜版唱片在市場中流傳了將近40年，直到第一批BBC傳奇（BBC Legends）系列唱片正式問世。唱片以BBC早期卓越的立體聲錄制，好聲超出任何人的想象。而音樂會本身也對促進1960-1961年作曲家百年誕辰紀念期間英美兩國馬勒音樂的復興起了舉足輕重的作用。

在他接下來的職業(yè)生涯中優(yōu)秀唱片層出不窮——為美國《讀者文摘》錄制的權(quán)威的標準曲目，兩張獨立的EMI唱片，一張Decca，還有自1970年起為約翰·歌德史密斯（John Goldsmith）旗下的Unicorn唱片公司灌制的一系列精彩紛呈的唱片，包括與新愛樂的尼爾森第五，馬勒第一和第三，一張與倫敦交響帕努夫尼克（Panufunik）和羅伯特·辛普森（Robert Simpson）的第三交響曲專輯，兩張指揮家死后出版的唱片：1966年與斯德哥愛樂合作的馬勒第六，1972年3月為丹麥廣播制作的哥本哈根版尼爾森的《掃羅與大衛(wèi)》。