羅恩伯爵的父親早年在普魯士軍隊中服役，戰(zhàn)死在拿破侖侵略中，1821年小羅恩13歲就進了軍校，1824-1827年在在柏林軍事學院工作。1827年在武備學校任教。1832年調到克雷菲爾德的陸軍司令部，不久以后出版三卷集《自然、民族、政治地理學原理》。在當時有超過4萬的銷量，而且還陸續(xù)發(fā)表了三部續(xù)篇，基本都是關于德國、歐洲軍事地理的內容，1836年起在總參測繪局任職。1848年任軍參謀長，后歷任團長、旅長、師長。在服役期間，依然在不同軍事院校擔任導師一類的職務，1848年革命期間，他協(xié)助王儲（炮彈親王，日后的德帝威廉一世）鎮(zhèn)壓巴登的起義。以后就平步青云了，1850年晉升少將，1859年晉升中將，任軍隊改組委員會委員和陸軍部長，1861年兼任海軍部長。在當時那個年代，普魯士的軍費開支是由政黨控制的，與國防部無關，他在畢典菲爾特和老毛奇支持下，逐漸掌控了軍費支配權，他改革普魯士軍制，以普遍的三年義務兵役制保持全國的軍事化，規(guī)定在正規(guī)軍作戰(zhàn)時由后備軍保衛(wèi)國家。他的改革使普魯士在1866年七星期戰(zhàn)爭（普奧戰(zhàn)爭）中迅速擊敗奧地利，并取的1871年對法國戰(zhàn)爭的勝利，使德意志成為歐洲的主要強國，1871年封伯爵，同年12月繼俾斯麥成為普魯士首相，1872年因健康不佳辭職。1873年晉升陸軍元帥。在普魯士三駕馬車之中，他和威廉一世認識最早，相交最深，俾斯麥和毛奇都是他引薦給威廉的，也是他們之間發(fā)生矛盾時的調解人。他們三人加上腓特烈·卡爾親王（鐵王子，當時最杰出的野戰(zhàn)指揮官，曾獨立攻克梅斯要塞，降法軍14萬）也被通稱為開國四杰。

羅恩最大的功績就是他成功的改革了普魯士軍制，鑄造了德國統(tǒng)一的利劍。他當陸軍部長時，當時普魯士還沿用拿破侖戰(zhàn)爭時純防御性的舊后備軍制度，已經(jīng)遠遠不能適應普魯士統(tǒng)一小德意志的需要。當時普軍是14萬，奧地利有31萬，法國42萬，俄國99萬。因此，擴大軍事編制，延長服役期限迫在眉睫。

1862年，陸軍大臣羅恩在眾議院開幕式上提出軍事改革方案。要求把軍隊的服役年限從2年延長為3年；取消國民后備軍；改換常備軍裝備，從下年度起每年撥款950萬塔勒作為軍費。這些措施意味著征兵額從4萬人增至6.3萬人，軍隊從92個團增至147個團，平時兵力由14萬人變?yōu)?1.7萬人。資產(chǎn)階級憂慮著：一方面取消后備軍和延長現(xiàn)役期，無疑將削弱其在軍隊中的影響；另一方面，這支龐大軍隊中的2/3的軍官、9/10的教官由容克擔任，包藏著一種危險，即軍隊可能會成為容克反對議會的工具�！�誰向它保證，它磨快的武器將被為它自己的目的而使用呢？” 于是，以進步黨為代表的資產(chǎn)階級自由派運用1850年憲法賦予議會的權力與政府討價還價。

面對議會的拖延，威廉一世也持強硬態(tài)度，認為統(tǒng)率和管理武裝力量是自己的特權，他堅決表示：寧愿放棄王位，也不愿丟掉3年兵役制的原則。羅恩為首的軍人集團力主解散議會，實行專制統(tǒng)治，維持正統(tǒng)主義和君主團結。他調50營軍隊到柏林周圍，準備武力鎮(zhèn)壓議會。1862年3月11日，普王下令解散眾議院。但在5月的選舉中，進步黨得到選民的支持，獲250個議席。新選出的眾議院又否決了軍制改革案。在普魯士王權處于一籌莫展的時刻，羅恩向威廉一世推薦了當時的駐法大使俾斯麥，終于七繞八繞的通過了軍制改革案。這是羅恩的勝利，也是普魯士軍國主義的勝利。