清廷任職
光緒十二年，黃遵楷中了舉人，但迫于生計(jì)卻在山東煙臺潮州會館當(dāng)師爺。期間，他擔(dān)任了《時務(wù)報》在山東的代理發(fā)行人，為傳播維新思想起了積極的作用。光緒二十四年三月二十七日，黃遵楷加入了康有為發(fā)起組織的 “保國會”，成為京城“保國會”一百八十六人之一。
黃遵楷還與 邱逢甲、 鄭觀應(yīng)等同為上�！安焕p足會”董事，為婦女的解放奔走。為打破鎖在婦女身上的第一道沉重枷鎖，他們勇為天下先。光緒二十四年，黃遵楷赴京會試，雖未及第，卻大挑為一等，引見時選為福建補(bǔ)用知縣。在京逗留期間，黃遵楷結(jié)識了 康有為、 梁啟超、曾重伯、陳次亮、袁爽秋等變法和開明人士。
在此期間，黃遵楷也曾先后兩度上書光緒皇帝，鼓吹改革封建舊官制，實(shí)施維新變法。維新變法失敗后，黃遵楷因此受到頑固派的參劾。光緒二十四年八月二十二日福建道監(jiān)察御史黃桂鋆就這樣參劾他：“同惡相濟(jì)，結(jié)為死黨，如 黃遵憲、 熊希齡、 徐勤、黃遵楷、韓文舉等……�！� 大挑三年之后，黃遵楷才得分發(fā)到福建任職海疆防衛(wèi)。任職廈門海防同知期間，民眾不滿列強(qiáng)欺凌，抵制美貨高潮迭起，美國領(lǐng)事為此多方恣事。如借口美領(lǐng)事館旗桿下出現(xiàn)糞便，有辱于美方國格之嫌，要求地方政府鳴炮賠禮。那時，清廷的確腐敗無能，在“洋大人”面前奴顏婢膝，并準(zhǔn)備一味禮賠了事。
新進(jìn)微員黃遵楷卻不吃這一套，雖然中央部電已到，卻不為所動，挺身而出為堅(jiān)持正義據(jù)理力爭，斷然拒絕了美領(lǐng)事的無理要求，捍衛(wèi)了民族的尊嚴(yán)和國家的主權(quán)。
在任職三都海防同知期間，黃遵楷為保衛(wèi)祖國海疆詳細(xì)考察了三都周圍環(huán)境，發(fā)現(xiàn)三沙灣地處戰(zhàn)略要沖，不可無所戒備。于是進(jìn)行實(shí)地勘測，繪制戰(zhàn)略形勢圖，向上司指陳利害，并力請當(dāng)局立將三沙灣辟為軍用港口，以粉碎外國列強(qiáng)覬覦之心。
駐日使館
在長兄黃遵憲逝世三年后，即光緒三十三年，黃遵楷經(jīng)出使日本大臣李家駒舉薦，出任駐日本國使館商務(wù)委員。在擔(dān)任駐日使館商務(wù)委員期間，黃遵楷就中日貿(mào)易大宗，如果對棉紡業(yè)和絲織業(yè)進(jìn)行了悉心考察，從而洞識了其中利弊，并著有《戊申中日貿(mào)易論》、《日本棉業(yè)絲業(yè)調(diào)查記》、《天蠶絲業(yè)調(diào)查記》、《萬國博覽與日本博覽會調(diào)查記》，進(jìn)行全面分析論述，以向當(dāng)局指陳利害得失，提供決策方略。
宣統(tǒng)元年《戊申中日貿(mào)易論》成書后，繼任出使日本國大臣胡惟德為此褒獎有加。“一一考其原因，究其得失”，“具見該委員平日用心之細(xì)，辦事之勤，良堪嘉尚。” 由于黃遵楷熟悉國際商務(wù)，并獨(dú)當(dāng)此任，成績顯著，為政有聲望。宣統(tǒng)二年黃遵楷被新任駐日公使汪大燮委任命為神戶兼大阪兩地領(lǐng)事。
當(dāng)時神戶、大阪為日本華商聚居之地，商務(wù)活動頻繁。黃遵楷在進(jìn)行詳細(xì)調(diào)查之后，號召當(dāng)?shù)厝A人組織成立中華商務(wù)總會，以通過精誠團(tuán)結(jié)增強(qiáng)我國商貿(mào)競爭能力�！� 在中華商務(wù)總會成立大會上，黃遵楷積極鼓勵華商努力鉆研世界貿(mào)易知識，掌握國際貿(mào)易規(guī)則，插足世界貿(mào)易事宜，促進(jìn)祖國民族經(jīng)濟(jì)的振興和發(fā)展。
在駐日使館的六年，黃遵楷對日本的商務(wù)、財(cái)政金融，尤其是幣制改革情況進(jìn)行了悉心考察，著有《幣制原論》、《金幣制考》、《調(diào)查幣制意見書》和《松方政策與日本銀行之一斑》，論著具有真知灼見，表現(xiàn)出深智卓識。
《金幣制考》所論述的是幣制改革問題。此書以國家財(cái)政機(jī)關(guān)為改革要素，以貿(mào)易為論述根據(jù)，對商業(yè)與幣制關(guān)系進(jìn)行了深刻的分析。因分析非常中肯，切中問題本質(zhì)，引起國人與日本朝野的重視。日本當(dāng)政的大隈侯爵、坂谷男爵、鹽澤博士和添田、池田大財(cái)閥皆認(rèn)為是此乃財(cái)政金融論著的上乘佳作。
日本明治維新時期的政治家、財(cái)政改革家松方正義，對黃遵楷的理論尤為傾倒，稱贊《金幣制考》：“引據(jù)該博而確實(shí)，議論明快而切實(shí)。金本位制建設(shè)之所以急于今日，與其施行之方法，說得無余蘊(yùn)。非研究至深，曷能辦之。所謂一線生機(jī)者，由斯而開發(fā)。不獨(dú)貴國財(cái)界之幸福，世界萬國，孰不歡迎而樂利之哉！”
松方正義曾任明治維新政府大藏卿和內(nèi)務(wù)卿，曾積極推行地稅改革、殖產(chǎn)興業(yè)、整理紙幣，實(shí)行所謂“松方財(cái)政”，創(chuàng)設(shè)日本銀行兌換制度。爾后他曾兩度組閣，擔(dān)任日本內(nèi)閣總理大臣（首相）。民國二年 袁世凱為了進(jìn)一步拉攏進(jìn)步黨打擊國民黨，令維新人物熊希齡組閣。熊希齡希望組成一個第一流的“人才內(nèi)閣”，把全國的“大名流”都網(wǎng)羅在內(nèi)的，還自兼財(cái)政總長。為徹底改革政府的財(cái)政金融狀況，熊希齡總理專電特招黃遵楷回國，要他擔(dān)任財(cái)政部幣制顧問。
憂國憂民
民國三年二月，袁世凱指使黨羽制造種種輿論，對 熊希齡內(nèi)閣發(fā)難，迫使熊希齡辭職。隨熊去職的還有 汪大燮、 梁啟超、 張謇。
辭去司法總長后，梁啟超被任命為全國幣制局總裁，與黃遵楷同室共事。二人志向所同，欲從改革幣制入手，以鞏固國家的財(cái)政與金融。是年三月，由袁世凱通過他所操縱的“約法會議”，炮制出所謂的《中華民國約法》，改責(zé)任內(nèi)閣為總統(tǒng)制，獨(dú)攬大權(quán)。
大權(quán)獨(dú)攬以后，袁世凱違背歷史潮流，公開上演帝制的丑劇。是年十二月，梁啟超憤然辭去幣制局總裁一職。袁世凱忙于稱制登基，幣制局隨即被裁撤，黃遵楷也就因此而去職。黃遵楷為此嘆息不已：“財(cái)政者，國之血液也。幣制不良，何以為國。吾將終身以殉之矣！”
民國五年元旦，袁世凱正式登基，即遭到了以孫中山為首的革命黨人和以梁啟超為首的進(jìn)步黨人發(fā)動的“護(hù)國運(yùn)動”的抵制。雖然是年三月，袁世凱被迫撤銷帝制，四月恢復(fù)責(zé)任內(nèi)閣，但是幣制局并未恢復(fù)。 黃遵楷看清了袁世凱的本質(zhì)，再也無意仕途，就將胸中所蘊(yùn)憂國憂民之心，公諸報端，旨圖喚起社會關(guān)注，提醒當(dāng)局省察。
但是，這一切卻如泥牛入海，未能如愿。民國六年，黃遵楷在汕頭溘然逝世，享年60歲。黃遵楷與長兄黃遵憲一樣：壯志未酬，空懷報國之心。
黃遵楷時刻不忘先兄教誨，退隱后將他的著作進(jìn)行了全面細(xì)心的整理。宣統(tǒng)三年，他參與了《人境廬詩草》的校核，并為該書題跋。民國五年，黃遵楷所述《先兄公度先生事實(shí)述略》，真實(shí)而較詳細(xì)地記述了黃遵憲的光輝的一生，為后世研究黃遵憲提供了翔實(shí)的資料，學(xué)術(shù)價值很高。
梅縣舊居
黃遵楷具有遠(yuǎn)大抱負(fù)，學(xué)有所成，學(xué)而致用，為客家先賢。黃家在梅縣下市的老祖屋謂之“黃屋”，堅(jiān)實(shí)雄偉，前坪寬闊，樹立旗幟的石桅桿和池壙前的照壁，將整座民居建筑烘托得蔚然壯觀。“黃屋”與周圍的家庭學(xué)�！疤裆W(xué)”、“祿善堂”、“德贊樓”、“恩元府”、“人境廬”構(gòu)成了有特色的客家建筑群落，至今保留完好，不久將修葺一新，使之成為燦爛的人文景觀。