1878年于尼古拉耶夫斯克工程學(xué)校畢業(yè)后，被派到作戰(zhàn)部隊擔(dān)任少尉。參加了俄土戰(zhàn)爭。1885年被派到中亞地區(qū)修筑外里海鐵路，以后任中亞和烏蘇里鐵路局局長。因其妻母與沙俄皇后有親屬關(guān)系，受到重用。1903年7月，中東鐵路正式通車后，被任命為中東鐵路管理局局長。開始為上校軍銜，后晉升為中將。任職期間，在中東鐵路附屬地內(nèi)建立民事行政機構(gòu)，即實行所謂自治市制，1908年在哈爾濱成立了自治會和董事會，把哈爾濱和中東鐵路附屬地變成沙俄的殖民地。1917年10月革命后，作為沙俄殘余勢力代表人物，成立"全俄臨時政府"，自任"最高執(zhí)政"，妄想推翻蘇維埃新政權(quán)。更有甚者，擅自挪用鐵路公款，作反革命活動經(jīng)費，向日本購買軍火達(dá)16億日元之多，以致積欠工人工資兩個月未發(fā)，使工人生活無法維持。為反對霍爾瓦特，中東鐵路中俄工人從1918年至1920年連續(xù)舉行4次全路大罷工，終于在1920年3月，將霍爾瓦特趕下臺。之后，他逃往北京，1937年死于北京。