1913年葉入本鄉(xiāng)私塾讀書，1916年進入縣立高小，1919年考入湖南省立甲種農業(yè)學校，1921年入長沙私立青年中學，1926年考入國立北京法政大學，同年加入國民黨。

1927年，葉國素休學回到長沙，馬日事變后在長沙市晴佳巷35號掩護了被通緝的中共黨員袁任遠、黎復青、莫祖煦等，與其父一道營救了被捕的中共黨員黃鰲、陳采夫。中共湖南青年團團長史訓川的弟弟史訓洲參加暴動被捕，亦由葉營救出獄。1928年8月，葉國素任澧縣國民黨指委會指導委員，時值澧縣津市商團主任捕捉進步青年詹蒼云等18名，準備槍決。葉國素得知消息后，立即密電時任省執(zhí)法處處長的父親，要求將詹蒼云等押送長沙，后經審判后全部釋放。1930年，葉進入國立北平大學法學院政治系學習，其間，國民黨中統特務和北平市憲兵三團經多次布控，準備將中共北平市委畢家炎、莫祖煦、何汝霖、張宏經等一網打盡，葉利用國民黨員的身份探知消息后，及時通知畢家炎等成功逃脫。

1933年10月，葉國素任國民黨第二十八軍秘書處少�？茊T，1937年入留日學生訓練班受訓，翌年在武昌集體加入“三青團”，任“三青團”中央團部籌備處服務員，1939年春回到長沙任長沙區(qū)團部籌備處宣傳科科長。同年夏，葉進入重慶中央訓練團黨政班第二期學習，1940年1月后歷任國民黨湖南省黨部組織科、訓練科科長，1943年當選為湖南省教育會理事，1946年8月當選為國民黨湖南黨部執(zhí)行委員。其間，葉在長沙家中掩護中共黨員徐某、莫祖煦、莫育等從事地下活動，成功營救了在臨澧從事地下活動被捕的中共黨員蔣宗策。1947年4月，林伯渠的侄孫女林明芷在武漢從事地下活動時被捕，葉國素通過在最高法院任職的同學刑事庭庭長張孚甲從中周旋， 1948年5月林被無條件釋放。

1947年，葉國素當選國民代表大會代表，1948年當選為湖南省參議會參議員、湖南省政府參事。當時軍統特務蔣鵬翥、中統特務陳士芬等30多名參議員提議“通電全國支持蔣委員長戡亂到底”，葉國素當場堅決反對，受到唐伯球等的稱贊，湖南《中央日報》對此事進行了登載。同年葉加入民革組織，任訓練委員。1949年4月，葉受民革委派赴廣州收集情報，湖南和平解放后，由于交通斷絕，葉準備繞經重慶回長沙。到重慶后，葉與解放軍二野江南辦事處地下工作人員楊銘鈞取得了聯系，協助楊做策反和保護工廠等工作。葉成功策反時任重慶兵工廠技術處處長的同鄉(xiāng)關席珍參與保護工廠活動，并將造好的手槍和部分步槍共三萬多支拆散儲藏。

1950年7月，葉任湖南省人民政府參事室參事。