1913年葉入本鄉(xiāng)私塾讀書，1916年進入縣立高小，1919年考入湖南省立甲種農(nóng)業(yè)學(xué)校，1921年入長沙私立青年中學(xué)，1926年考入國立北京法政大學(xué)，同年加入國民黨。

1927年，葉國素休學(xué)回到長沙，馬日事變后在長沙市晴佳巷35號掩護了被通緝的中共黨員袁任遠、黎復(fù)青、莫祖煦等，與其父一道營救了被捕的中共黨員黃鰲、陳采夫。中共湖南青年團團長史訓(xùn)川的弟弟史訓(xùn)洲參加暴動被捕，亦由葉營救出獄。1928年8月，葉國素任澧縣國民黨指委會指導(dǎo)委員，時值澧縣津市商團主任捕捉進步青年詹蒼云等18名，準備槍決。葉國素得知消息后，立即密電時任省執(zhí)法處處長的父親，要求將詹蒼云等押送長沙，后經(jīng)審判后全部釋放。1930年，葉進入國立北平大學(xué)法學(xué)院政治系學(xué)習(xí)，其間，國民黨中統(tǒng)特務(wù)和北平市憲兵三團經(jīng)多次布控，準備將中共北平市委畢家炎、莫祖煦、何汝霖、張宏經(jīng)等一網(wǎng)打盡，葉利用國民黨員的身份探知消息后，及時通知畢家炎等成功逃脫。

1933年10月，葉國素任國民黨第二十八軍秘書處少�？茊T，1937年入留日學(xué)生訓(xùn)練班受訓(xùn)，翌年在武昌集體加入“三青團”，任“三青團”中央團部籌備處服務(wù)員，1939年春回到長沙任長沙區(qū)團部籌備處宣傳科科長。同年夏，葉進入重慶中央訓(xùn)練團黨政班第二期學(xué)習(xí)，1940年1月后歷任國民黨湖南省黨部組織科、訓(xùn)練科科長，1943年當選為湖南省教育會理事，1946年8月當選為國民黨湖南黨部執(zhí)行委員。其間，葉在長沙家中掩護中共黨員徐某、莫祖煦、莫育等從事地下活動，成功營救了在臨澧從事地下活動被捕的中共黨員蔣宗策。1947年4月，林伯渠的侄孫女林明芷在武漢從事地下活動時被捕，葉國素通過在最高法院任職的同學(xué)刑事庭庭長張孚甲從中周旋， 1948年5月林被無條件釋放。

1947年，葉國素當選國民代表大會代表，1948年當選為湖南省參議會參議員、湖南省政府參事。當時軍統(tǒng)特務(wù)蔣鵬翥、中統(tǒng)特務(wù)陳士芬等30多名參議員提議“通電全國支持蔣委員長戡亂到底”，葉國素當場堅決反對，受到唐伯球等的稱贊，湖南《中央日報》對此事進行了登載。同年葉加入民革組織，任訓(xùn)練委員。1949年4月，葉受民革委派赴廣州收集情報，湖南和平解放后，由于交通斷絕，葉準備繞經(jīng)重慶回長沙。到重慶后，葉與解放軍二野江南辦事處地下工作人員楊銘鈞取得了聯(lián)系，協(xié)助楊做策反和保護工廠等工作。葉成功策反時任重慶兵工廠技術(shù)處處長的同鄉(xiāng)關(guān)席珍參與保護工廠活動，并將造好的手槍和部分步槍共三萬多支拆散儲藏。

1950年7月，葉任湖南省人民政府參事室參事。