后在伊利諾中央鐵路公司任高職，開始了其鐵路管理生涯。1898年組織財(cái)團(tuán)收購了聯(lián)合太平洋鐵路公司。不久，他使聯(lián)合太平洋鐵路公司脫離破產(chǎn)邊緣，進(jìn)而蓬勃發(fā)展。他施展了一些不受人喜歡的商業(yè)手段取得一些其他的鐵路公司，其中最有名的是南太平洋鐵路公司。1901年他與詹姆斯·希爾爭購北太平洋鐵路公司的控制權(quán)失敗，導(dǎo)致了華爾街空前嚴(yán)重的一次危機(jī)。1904年西奧多·羅斯福當(dāng)政期間，他與約翰·皮爾龐特·摩根合組的鐵路信托公司被最高法院宣判解散。他的兒子威廉·埃夫里爾·哈里曼是二戰(zhàn)時期的著名外交官。