1950年進(jìn)入天津中央音樂學(xué)院少年班，師從大提琴家黃源禮教授。1954年畢業(yè)于中央音樂學(xué)院附中，于同年升入本校本科；1956年被蘇聯(lián)專家契爾沃夫選為重點(diǎn)學(xué)生，隨其學(xué)習(xí)兩年。同年在維也納“第七屆青年聯(lián)歡節(jié)”,比賽中獲獎之后轉(zhuǎn)入匈牙利布達(dá)佩斯音樂學(xué)院學(xué)習(xí)五年,成為該校第一位大提琴專業(yè)的中國留學(xué)生。

1959年赴莫斯科音樂學(xué)院隨克佐羅波娃學(xué)習(xí)，后轉(zhuǎn)入匈牙利布達(dá)佩斯音樂學(xué)院，1964年獲“藝術(shù)家和教師”畢業(yè)證書，成為該院第一位大提琴專業(yè)的中國留學(xué)生。1964年回國，執(zhí)教于中央音樂學(xué)院。1970年進(jìn)入中央樂團(tuán)。曾與中央樂團(tuán)、北京交響樂團(tuán)、香港泛亞樂團(tuán)，以及指揮家韓中杰、黃飛立、湯沐海、陳佐湟、陳燮陽等合作演出。1979年在中央音樂學(xué)院、天津音樂學(xué)院舉辦音樂會,參加各類演出數(shù)百場。。1982年與美國指揮家戴維·吉爾伯合作演出德沃夏克大提琴協(xié)奏曲。1986年應(yīng)邀赴日本舉行獨(dú)奏、重奏音樂會，1987年在香港舉行協(xié)奏曲音樂會。

在長期的演奏和教學(xué)實踐中,融中西方教學(xué)之所長,研究整理出一整套科學(xué)的教學(xué)方法,對我國大提琴教學(xué)產(chǎn)生了廣泛的影響。是我國著名的大提琴演奏家和教育家,并被譽(yù)為“世界水平的大提琴教授”。

胡國堯老師演奏風(fēng)格嚴(yán)謹(jǐn)細(xì)膩而富有內(nèi)涵，熱情奔放，富于表現(xiàn)力。曾中國唱片公司錄制

并出版過唱片。