胡聘之出身于官宦世家�！逗�氏宗譜》以南北朝時期在劉宋皇朝內(nèi)任相國、后定居江西南昌奉新華林的胡藩為第一世，明清時期其后代遷居天門。清末至民國初年，天門胡姓繁衍出很多支系，大約有男丁8000余人，有記載的大多為第40世至50余世。第40世的遷祖之一胡子謨，明代曾在江西任過刑部主事。第50世胡振，曾被封為光祿大夫，其次子胡寶烈為嘉慶癸亥年（1803年）貢生，后誥封光祿大夫。寶烈次子德士熏為道光辛巳年（1821年）恩科舉人，先后任清苑、蘄水（現(xiàn)稀水）訓(xùn)導(dǎo)，柏鄉(xiāng)、井陘等縣知縣，河北省蔚州、景州等地知州，后任直隸補用知府，欽加三品銜。他先后配蘇氏、羅氏、陳氏為妻，共傳8子，其中兩個幼子早亡，幸存6子中有凝之、聘之、習(xí)之、遜之、輔之、述之。長子凝之任過直隸束鹿縣知縣，四子遜之歷任江西彭澤、南城、萬安等縣知縣，五子輔之是光緒癸巳年（1893年）舉人，后任過浙江同知。二子胡聘之是其父于道光十五年（1835年）在蘄水（現(xiàn)稀水）任訓(xùn)導(dǎo)時所生，取號為蘄生，由于他從小聰明好學(xué)，喜讀圣儒之書，又取派名為崇儒。他隨其父在學(xué)風(fēng)濃厚的環(huán)境里生活，從小樹立宏圖大志，刻苦攻讀，于同治四年（1865年）中舉，同治七年（1868年）舉進士，被選為翰林院編修，先任會試同考官、四川鄉(xiāng)試主考官，后任內(nèi)閣侍讀學(xué)士、太仆寺少卿（正四品），光緒十三年（1887年）十二月出任北京順天府知府，兩年后出任山西布政使（由正三品升從二品）、浙江布政使（大約一年），光緒二十一年（1895年）七月調(diào)任陜西巡撫（從二品），上任僅一個月又調(diào)任山西巡撫（升正二品），直到光緒二十六年（1900年）前后卸職，入仕為官30余年。

道光二十年（1840年），任職不久的胡訓(xùn)導(dǎo)喜得長子，并為之取名聘之，又名崇儒，字蘄生，又字萃臣，號景伊。其意思很明顯：生于蘄水，根在景陵，并希望能學(xué)以致用，匡時濟世；可見其濃厚的儒家思想。

為了培養(yǎng)兒子的學(xué)習(xí)能力和自立之志，道光二十七年（1847年），胡德增將七歲的小聘之送回天門老家，讓他拜伯父胡德培為師，與堂兄胡崇訓(xùn)一起同館受學(xué)。

伯父雖然為當(dāng)?shù)孛�塾，但生活極為貧困，他的塾館也只能設(shè)在西塔寺內(nèi)。艱澀的生活、嚴格的教育，加之父親、伯父的影響和熏陶，使小聘之學(xué)習(xí)格外勤奮刻苦，當(dāng)年即可吟詩作對，十歲開篇作文，16歲便考中秀才。

然而他并非是死肯八股文，而是躲在書房，博覽廣采，經(jīng)史子集，無不涉獵，就是被正人君子不肖一顧的天文、地理、算學(xué)等雜書也興趣極濃；這些知識的廣泛吸收，為他今后的為官治政，開拓進取奠定了良好的基礎(chǔ)。25歲的清華書宦之子胡聘之于同治三年（1864年）考中舉人，第二年又以一甲第九名中進士，并被選為翰林院庶吉士。而伯父的兒子、同學(xué)胡崇訓(xùn)在考場則連連失利，最終連個秀才都沒沾邊。 庶吉士為閑散的七品小京官。胡聘之便利用這一機會廣結(jié)人物才子，親近高官顯宦，同時進一步刻苦攻讀。四年后，又考取了翰林院編修。同治十三年（1874年）后，胡聘之官場順達，歷任會試同考官、四川鄉(xiāng)試主考官，回京后，任內(nèi)閣侍讀學(xué)士、太仆寺少卿；而且，無巧不成書，不久，接替叔父胡德熏任順天府（今北京市）知府。光緒十七年（1891年）十一月，胡聘之外放山西布政使，以二品之職，掌晉省之民政財政。