先生出生于貧苦農(nóng)民家庭，自幼聰穎好學(xué)，因家貧無力延師，只好在本族富戶塾中伴讀，服侍師傅，灑水掃地，余暇，尤其夜晚靠燃麻桿照明攻讀。因其勤奮自強(qiáng)，成績優(yōu)異，深得師傅喜愛。

傳先生幼時(shí)，參加童子試，富家子弟無一考中，僅先生一人高中秀才，隨遭東翁妒意，欲逐其出塾。師傅洞然而愛莫能助，乃以不留玉棟伴讀便另尋新館為由，要離開此地，東翁無奈，只得留下玉棟。自此，玉棟學(xué)習(xí)更加刻苦，成績?nèi)者M(jìn)，為以后繼續(xù)深造，打下了堅(jiān)實(shí)的基礎(chǔ)。

先生工書法，能雙手執(zhí)筆，左手猶甚，書法、詩詞、歌賦亦時(shí)有創(chuàng)作。

1894年中日甲午戰(zhàn)爭后，先生見清朝內(nèi)憂外患日重，痛心于清政府腐敗無能，篤信教育救國，1910年毅然回鄉(xiāng)辦學(xué)，造福桑梓。先生在故里與幾位開明士紳，修圍墻，建校舍，創(chuàng)辦起“司馬店子大學(xué)堂”，自任校長兼教師。學(xué)堂一開新式教育之風(fēng)，開展算學(xué)（數(shù)學(xué)），電學(xué)（物理），英文等學(xué)科，并首開招收女童。該校是沂水縣最早的一所小學(xué)，后被定為沂水縣立高等小學(xué)，周圍數(shù)十里的各家子弟駿到此就讀，培養(yǎng)了大批人才，為這一地區(qū)的新式教育奠定了基礎(chǔ)，為中國近代培養(yǎng)了一批人才。

玉棟先生思想進(jìn)步，激勵(lì)學(xué)生刻苦學(xué)習(xí)，抗敵御侮，立志報(bào)國。他的學(xué)生不少人后來成為共產(chǎn)黨員或進(jìn)步人士。沂南縣早期（1928年）的共產(chǎn)黨員徐湘南 、李竹林、 李韻聲等皆受業(yè)于黃玉棟先生，后再該校繼任校長的黃希陶、 黃敕五 、教員黃瑞年、 黃民安 、高海觀 、蘇興煥等都是先生的學(xué)生；原國家計(jì)委副主任王光偉、二炮政委劉立封、山東省政協(xié)主席李子超、青島國棉六廠黨委書記徐淑琪（女）等，亦在該校受到黃玉棟先生的啟蒙訓(xùn)導(dǎo)。

先生執(zhí)教，對學(xué)生嚴(yán)而不威，循循善誘。命題作文輒先生范文示生，批訪亦皆耳提面命，處事為人堪稱楷模。先生謝世后，該校師生繼承其遺風(fēng)，繼續(xù)為革命事業(yè)培養(yǎng)了大批骨干力量。