少有文武才干，仕周太子車右中士，襲爵武遂縣公。高祖踐阼，拜儀同，領(lǐng)交州事，進爵陽城郡公。在州頗有惠政。后數(shù)年，轉(zhuǎn)驃騎將軍。伐陳之役，從宜陽公王世積，以舟師出九江道，先鋒與陳人合戰(zhàn)，破之，進拔江州。上聞而大悅，進位上開府。尋拜蘄州總管，未幾，征拜左領(lǐng)左右府將軍。后以行軍總管從晉王楊廣擊突厥于靈武，破之。遷右衛(wèi)將軍。

仁壽中，率兵屯弘化以備胡。煬帝時在東宮，遺祥書。史祥答書曰：行人戾止，奉所賜況，恩紀綢繆，形于文墨。不悟飛雪增冰之地，忽載三陽，毳幙韋韝之鄉(xiāng)，在俄聞九奏。精駭思越，莫知啟處。祥少不學軍旅，長遇升平，幸以先人緒馀，備職宿衛(wèi)。懼駑蹇無致遠之用，朽薄非折沖之材，豈欲追蹤古人，語其優(yōu)劣？曩者王師薄伐，天人受脤，絕漠揚旌，威震海外。當此之時，猛將如云，謀夫如雨。至若祥者，列于卒伍，預(yù)聞指蹤之規(guī)，得免逗遛之責，循涯揣分，實為幸甚。爰以情喻雷、陳，事方劉、葛，信圣人之屈己，非庸人之擬議。何則？川澤之大，污潦攸歸，松柏之高，蔦蘿斯托。微心眷眷，孟侯所知也。抑惟體元良之德，煥重離之暉，三善克修，萬邦以正。斯固道高周誦，契葉商皓，豈在管蠡所能窺測！伏承監(jiān)國多暇，養(yǎng)德怡神，咀嚼六經(jīng)，逍遙百氏。追西園之愛客，眷南皮之出游，疇昔之恩，無忘造次。祥自忝式遏，載罹寒暑，身在邊隅，情馳魏闕。每至清風夕起，朗月孤照，想鳴葭之啟路，思托乘于后車。塞表京華，山川悠遠，瞻望浮云，伏增潸結(jié)。太子甚親遇之。

隋煬帝即位，漢王楊諒發(fā)兵作亂，遣其將綦良自滏口徇黎陽，塞白馬津，余公理自太行下河內(nèi)。帝以祥為行軍總管，軍于河陰，久不得濟。祥謂軍吏曰：“余公理輕而無謀，才用素不足稱，又新得志，謂其眾可恃。恃眾必驕。且河北人先不習兵，所謂擁市人而戰(zhàn)。以吾籌之，不足圖也�！蹦肆钴娭行薰ゾ�，公理使諜知之，果屯兵于河陽內(nèi)城以備祥。祥于是艤船南岸，公理聚甲以當之。祥乃簡精銳于下流潛渡，公理率眾拒之。祥至須水，兩軍相對，公理未成列，祥縱擊，大破之。東趣黎陽討綦良等。良列陣以待，兵未接，良棄軍而走。于是其眾大潰，祥縱兵乘之，殺萬余人。進位上大將軍，賜縑彩七千段，女妓十人，良馬二十匹。轉(zhuǎn)太仆卿。帝嘗賜祥詩，史祥上表辭謝，帝降手詔曰：“昔歲勞公問罪河朔，賊爾日塞兩關(guān)之路，據(jù)倉阻河，百姓脅從，人亦眾矣。公竭誠奮勇，一舉克定�！对姟凡辉坪酰簎2018喪亂既平，既安且寧。u2019非英才大略，其孰能與于此邪！故聊示所懷，亦何謝也。”

尋遷鴻臚卿。時突厥啟民可汗請朝，帝遣祥迎接之。從征吐谷渾，祥率眾出間道擊虜，破之，俘男女千馀口。賜奴婢六十人，馬三百匹。進位左光祿大夫，拜左驍衛(wèi)將軍。及遼東之役，出蹋頓道，不利而還。由是除名為民。俄拜燕郡太守，被賊高開道所圍，祥稱疾不視事。及城陷，開道甚禮之。會開道與羅藝通和，送祥于涿郡，卒于途。

隋文帝：“朕以陳叔寶世為僭逆，挻虐生民，故命諸軍，救彼涂炭。小寇狼狽，顧恃江湖之險，遂敢泛舟楫擬抗王師。公親率所部，應(yīng)機奮擊，沉溺俘獲，厥功甚茂。又聞帥旅進取江州。行軍總管、襄邑公賀若弼既獲京口，新義公韓擒虎尋克姑熟。驃騎既渡江岸，所在橫行。晉王兵馬即入建業(yè)，清蕩吳越，旦夕非遠。驃騎高才壯志，是朕所知，善為經(jīng)略，以取大賞，使富貴功名永垂竹帛也。

隋煬帝：伯煚朝寄重，夏侯親遇深。貴耳唯聞古，賤目詎知今，早厓勁草質(zhì)，久有背淮心。掃逆黎山外，振旅河之陰。功已書王府，留情《太仆箴》。

隋煬帝：將軍總?cè)秩�表，胡虜清塵，秣馬休兵，猶事校獵，足使李廣慚勇，魏尚愧能，冠彼二賢，獨在吾子。昔余濫舉，推轂治兵，振皇靈于塞外，驅(qū)犬羊乎大漠。于時同行軍旅，契闊戎旃，望龍城而沖冠，眄狼居而發(fā)憤。將軍英圖不世，猛氣無前，但物不遂心，俛從事。每一思此，我勞如何。將軍宿心素志，早同膠漆，久而敬之，方成魚水。近者陪隨鑾駕，言旋上京，本即述職南蕃，宣條下國，不悟皇鑒曲發(fā)，備位少陽，戰(zhàn)戰(zhàn)兢兢，如臨冰谷。至如建節(jié)邊境，征伐四方，褰帷作牧，綏撫百姓，上稟成規(guī)，下盡臣節(jié)，是所愿也，是所甘心。仰慕前修，庶得自效。謬其入守神器，元良萬國，身輕負重，何以克堪！所望故人，匡其不逮。比監(jiān)國多暇，養(yǎng)疾閑宮，厭北閣之端居，罷南皮之馳射。博望之苑，既乏名賢，飛蓋之園，理乖終宴。親朋遠矣，琴書寂然，想望吾賢，疹如疾首。

高祖：史豫，北涼臨松縣令。

曾祖：史灌，撫寧鎮(zhèn)將。

祖父：史遵，樓煩郡守，贈散騎常侍、征西大將軍、涼州刺史。

父親：史寧，北周司徒、荊涼二州刺史、安政烈公

兒子：史義隆，永年縣令。

兄弟：史雄，字世武，開府儀同三司、司馭中大夫。史云，字世高，萊州刺史、武平縣公；史威，字世儀，武賁郎將、武當縣公。