清廷任職
光緒十二年，黃遵楷中了舉人，但迫于生計(jì)卻在山東煙臺(tái)潮州會(huì)館當(dāng)師爺。期間，他擔(dān)任了《時(shí)務(wù)報(bào)》在山東的代理發(fā)行人，為傳播維新思想起了積極的作用。光緒二十四年三月二十七日，黃遵楷加入了康有為發(fā)起組織的 “保國(guó)會(huì)”，成為京城“保國(guó)會(huì)”一百八十六人之一。
黃遵楷還與 邱逢甲、 鄭觀(guān)應(yīng)等同為上海“不纏足會(huì)”董事，為婦女的解放奔走。為打破鎖在婦女身上的第一道沉重枷鎖，他們勇為天下先。光緒二十四年，黃遵楷赴京會(huì)試，雖未及第，卻大挑為一等，引見(jiàn)時(shí)選為福建補(bǔ)用知縣。在京逗留期間，黃遵楷結(jié)識(shí)了 康有為、 梁?jiǎn)⒊�、曾重伯、陳次亮、袁爽秋等變法和開(kāi)明人士。
在此期間，黃遵楷也曾先后兩度上書(shū)光緒皇帝，鼓吹改革封建舊官制，實(shí)施維新變法。維新變法失敗后，黃遵楷因此受到頑固派的參劾。光緒二十四年八月二十二日福建道監(jiān)察御史黃桂鋆就這樣參劾他：“同惡相濟(jì)，結(jié)為死黨，如 黃遵憲、 熊希齡、 徐勤、黃遵楷、韓文舉等……�！� 大挑三年之后，黃遵楷才得分發(fā)到福建任職海疆防衛(wèi)。任職廈門(mén)海防同知期間，民眾不滿(mǎn)列強(qiáng)欺凌，抵制美貨高潮迭起，美國(guó)領(lǐng)事為此多方恣事。如借口美領(lǐng)事館旗桿下出現(xiàn)糞便，有辱于美方國(guó)格之嫌，要求地方政府鳴炮賠禮。那時(shí)，清廷的確腐敗無(wú)能，在“洋大人”面前奴顏婢膝，并準(zhǔn)備一味禮賠了事。
新進(jìn)微員黃遵楷卻不吃這一套，雖然中央部電已到，卻不為所動(dòng)，挺身而出為堅(jiān)持正義據(jù)理力爭(zhēng)，斷然拒絕了美領(lǐng)事的無(wú)理要求，捍衛(wèi)了民族的尊嚴(yán)和國(guó)家的主權(quán)。
在任職三都海防同知期間，黃遵楷為保衛(wèi)祖國(guó)海疆詳細(xì)考察了三都周?chē)h(huán)境，發(fā)現(xiàn)三沙灣地處戰(zhàn)略要沖，不可無(wú)所戒備。于是進(jìn)行實(shí)地勘測(cè)，繪制戰(zhàn)略形勢(shì)圖，向上司指陳利害，并力請(qǐng)當(dāng)局立將三沙灣辟為軍用港口，以粉碎外國(guó)列強(qiáng)覬覦之心。
駐日使館
在長(zhǎng)兄黃遵憲逝世三年后，即光緒三十三年，黃遵楷經(jīng)出使日本大臣李家駒舉薦，出任駐日本國(guó)使館商務(wù)委員。在擔(dān)任駐日使館商務(wù)委員期間，黃遵楷就中日貿(mào)易大宗，如果對(duì)棉紡業(yè)和絲織業(yè)進(jìn)行了悉心考察，從而洞識(shí)了其中利弊，并著有《戊申中日貿(mào)易論》、《日本棉業(yè)絲業(yè)調(diào)查記》、《天蠶絲業(yè)調(diào)查記》、《萬(wàn)國(guó)博覽與日本博覽會(huì)調(diào)查記》，進(jìn)行全面分析論述，以向當(dāng)局指陳利害得失，提供決策方略。
宣統(tǒng)元年《戊申中日貿(mào)易論》成書(shū)后，繼任出使日本國(guó)大臣胡惟德為此褒獎(jiǎng)有加�！耙灰豢计湓颍科涞檬А�，“具見(jiàn)該委員平日用心之細(xì)，辦事之勤，良堪嘉尚。” 由于黃遵楷熟悉國(guó)際商務(wù)，并獨(dú)當(dāng)此任，成績(jī)顯著，為政有聲望。宣統(tǒng)二年黃遵楷被新任駐日公使汪大燮委任命為神戶(hù)兼大阪兩地領(lǐng)事。
當(dāng)時(shí)神戶(hù)、大阪為日本華商聚居之地，商務(wù)活動(dòng)頻繁。黃遵楷在進(jìn)行詳細(xì)調(diào)查之后，號(hào)召當(dāng)?shù)厝A人組織成立中華商務(wù)總會(huì)，以通過(guò)精誠(chéng)團(tuán)結(jié)增強(qiáng)我國(guó)商貿(mào)競(jìng)爭(zhēng)能力�！� 在中華商務(wù)總會(huì)成立大會(huì)上，黃遵楷積極鼓勵(lì)華商努力鉆研世界貿(mào)易知識(shí)，掌握國(guó)際貿(mào)易規(guī)則，插足世界貿(mào)易事宜，促進(jìn)祖國(guó)民族經(jīng)濟(jì)的振興和發(fā)展。
在駐日使館的六年，黃遵楷對(duì)日本的商務(wù)、財(cái)政金融，尤其是幣制改革情況進(jìn)行了悉心考察，著有《幣制原論》、《金幣制考》、《調(diào)查幣制意見(jiàn)書(shū)》和《松方政策與日本銀行之一斑》，論著具有真知灼見(jiàn)，表現(xiàn)出深智卓識(shí)。
《金幣制考》所論述的是幣制改革問(wèn)題。此書(shū)以國(guó)家財(cái)政機(jī)關(guān)為改革要素，以貿(mào)易為論述根據(jù)，對(duì)商業(yè)與幣制關(guān)系進(jìn)行了深刻的分析。因分析非常中肯，切中問(wèn)題本質(zhì)，引起國(guó)人與日本朝野的重視。日本當(dāng)政的大隈侯爵、坂谷男爵、鹽澤博士和添田、池田大財(cái)閥皆認(rèn)為是此乃財(cái)政金融論著的上乘佳作。
日本明治維新時(shí)期的政治家、財(cái)政改革家松方正義，對(duì)黃遵楷的理論尤為傾倒，稱(chēng)贊《金幣制考》：“引據(jù)該博而確實(shí)，議論明快而切實(shí)。金本位制建設(shè)之所以急于今日，與其施行之方法，說(shuō)得無(wú)余蘊(yùn)。非研究至深，曷能辦之。所謂一線(xiàn)生機(jī)者，由斯而開(kāi)發(fā)。不獨(dú)貴國(guó)財(cái)界之幸福，世界萬(wàn)國(guó)，孰不歡迎而樂(lè)利之哉！”
松方正義曾任明治維新政府大藏卿和內(nèi)務(wù)卿，曾積極推行地稅改革、殖產(chǎn)興業(yè)、整理紙幣，實(shí)行所謂“松方財(cái)政”，創(chuàng)設(shè)日本銀行兌換制度。爾后他曾兩度組閣，擔(dān)任日本內(nèi)閣總理大臣（首相）。民國(guó)二年 袁世凱為了進(jìn)一步拉攏進(jìn)步黨打擊國(guó)民黨，令維新人物熊希齡組閣。熊希齡希望組成一個(gè)第一流的“人才內(nèi)閣”，把全國(guó)的“大名流”都網(wǎng)羅在內(nèi)的，還自兼財(cái)政總長(zhǎng)。為徹底改革政府的財(cái)政金融狀況，熊希齡總理專(zhuān)電特招黃遵楷回國(guó)，要他擔(dān)任財(cái)政部幣制顧問(wèn)。
憂(yōu)國(guó)憂(yōu)民
民國(guó)三年二月，袁世凱指使黨羽制造種種輿論，對(duì) 熊希齡內(nèi)閣發(fā)難，迫使熊希齡辭職。隨熊去職的還有 汪大燮、 梁?jiǎn)⒊?張謇。
辭去司法總長(zhǎng)后，梁?jiǎn)⒊蝗蚊鼮槿珖?guó)幣制局總裁，與黃遵楷同室共事。二人志向所同，欲從改革幣制入手，以鞏固國(guó)家的財(cái)政與金融。是年三月，由袁世凱通過(guò)他所操縱的“約法會(huì)議”，炮制出所謂的《中華民國(guó)約法》，改責(zé)任內(nèi)閣為總統(tǒng)制，獨(dú)攬大權(quán)。
大權(quán)獨(dú)攬以后，袁世凱違背歷史潮流，公開(kāi)上演帝制的丑劇。是年十二月，梁?jiǎn)⒊瑧嵢晦o去幣制局總裁一職。袁世凱忙于稱(chēng)制登基，幣制局隨即被裁撤，黃遵楷也就因此而去職。黃遵楷為此嘆息不已：“財(cái)政者，國(guó)之血液也。幣制不良，何以為國(guó)。吾將終身以殉之矣！”
民國(guó)五年元旦，袁世凱正式登基，即遭到了以孫中山為首的革命黨人和以梁?jiǎn)⒊瑸槭椎倪M(jìn)步黨人發(fā)動(dòng)的“護(hù)國(guó)運(yùn)動(dòng)”的抵制。雖然是年三月，袁世凱被迫撤銷(xiāo)帝制，四月恢復(fù)責(zé)任內(nèi)閣，但是幣制局并未恢復(fù)。 黃遵楷看清了袁世凱的本質(zhì)，再也無(wú)意仕途，就將胸中所蘊(yùn)憂(yōu)國(guó)憂(yōu)民之心，公諸報(bào)端，旨圖喚起社會(huì)關(guān)注，提醒當(dāng)局省察。
但是，這一切卻如泥牛入海，未能如愿。民國(guó)六年，黃遵楷在汕頭溘然逝世，享年60歲。黃遵楷與長(zhǎng)兄黃遵憲一樣：壯志未酬，空懷報(bào)國(guó)之心。
黃遵楷時(shí)刻不忘先兄教誨，退隱后將他的著作進(jìn)行了全面細(xì)心的整理。宣統(tǒng)三年，他參與了《人境廬詩(shī)草》的校核，并為該書(shū)題跋。民國(guó)五年，黃遵楷所述《先兄公度先生事實(shí)述略》，真實(shí)而較詳細(xì)地記述了黃遵憲的光輝的一生，為后世研究黃遵憲提供了翔實(shí)的資料，學(xué)術(shù)價(jià)值很高。
梅縣舊居
黃遵楷具有遠(yuǎn)大抱負(fù)，學(xué)有所成，學(xué)而致用，為客家先賢。黃家在梅縣下市的老祖屋謂之“黃屋”，堅(jiān)實(shí)雄偉，前坪寬闊，樹(shù)立旗幟的石桅桿和池壙前的照壁，將整座民居建筑烘托得蔚然壯觀(guān)�！包S屋”與周?chē)募彝W(xué)�！疤裆W(xué)”、“祿善堂”、“德贊樓”、“恩元府”、“人境廬”構(gòu)成了有特色的客家建筑群落，至今保留完好，不久將修葺一新，使之成為燦爛的人文景觀(guān)。