1881年，以鼓吹對外侵略為綱領(lǐng)的日本民間團(tuán)體玄洋社成立。山崎羔三郎在福岡與玄洋社少壯派成員過從甚密，萌發(fā)“大陸經(jīng)論”思想，加入該組織。1886年荒尾精受命于日本陸軍參謀本部，在中國建立間諜網(wǎng)絡(luò)。荒尾精的“大亞洲主義”和侵華主張令山崎羔三郎服帖，在荒尾精感召下，進(jìn)入中國攻讀漢語，并蓄發(fā)留辮，進(jìn)行間諜活動。1890年，他協(xié)助荒尾精籌建了間諜培訓(xùn)機(jī)構(gòu)日清貿(mào)易研究所，掌管該所總務(wù)。

甲午戰(zhàn)爭爆發(fā)后，山崎羔三郎由上海到煙臺，潛伏于中國運(yùn)兵船中，進(jìn)入朝鮮。他喬裝混入牙山清軍陣地，竊取清軍情報提供給日軍，使進(jìn)攻朝鮮的大島義昌順利攻陷成歡。日軍對平壤開始總攻后，由于指南針損壞，炮兵攻擊陷入困境。他向前來督戰(zhàn)的山縣有朋獻(xiàn)策，告訴日軍用“虱頭常指北而動”、“菜根北部纖維質(zhì)密”等常識來判斷清軍所在方位，在日軍進(jìn)攻平壤作戰(zhàn)中發(fā)揮作用。他的不凡表現(xiàn)在日軍司令部內(nèi)引起轟動，也使玄洋社的頭目引以為榮。

1894年10月，日軍為確保在莊河花園口登陸成功，在登陸之前，派出山崎羔三郎、鐘崎三郎、藤崎秀、豬田正吉、大熊鵬、向野堅(jiān)一等6人進(jìn)行戰(zhàn)前偵察。當(dāng)時，山崎羔三郎的身份是陸軍翻譯官。臨行前，日軍用水雷艇捕捉到一條中國漁船，把漁民的衣服剝下，供他們使用；日軍司令官大山巖還親自為他們送行。由于他們早已蓄發(fā)，并擅長漢語，很容易就通過了清軍設(shè)置的關(guān)口，獲取了清軍在遼東半島的兵力部署情報。同年10月24日，他們隨侵華日軍第二軍在莊河花園口登陸，山崎羔三郎的任務(wù)是赴旅順偵察。當(dāng)時山崎羔三郎等人已經(jīng)是清政府在案的通緝間諜，清軍預(yù)先將他們的照片四處張貼，懸賞捉拿。清軍為捉拿山崎羔三郎等人，還對金州頗嚴(yán)戒備，在各處均配備哨兵，無通行證者，一律捕捉。日軍在莊河花園口登陸時，清軍駐貔子窩營官榮安已接到中國漁民的報告，榮安即派出馬隊(duì)，加強(qiáng)了海岸警戒。

11月26日，山崎羔三郎在碧流河口被清軍巡邏兵捕獲。同一天，派住金州的鐘崎三郎和派往大連灣的藤崎秀均在碧流河一帶先后被捕捉。榮安將此3人一道押送金州副都統(tǒng)衙門。在審訊中，山崎羔三郎對自己此行的目的和以往的間諜活動供認(rèn)不諱，審訊后被關(guān)押在金州廳衙監(jiān)獄。至此，清軍得知日軍已經(jīng)有萬余人在莊河花園口登陸，欲攻打金州、大連灣，從后路包抄旅順。金州副都統(tǒng)連順當(dāng)即將捕獲間諜事上報盛京將軍裕祿，接到裕祿回函后，于10月31日夜將山崎羔三郎等3人在金州西門外刑場以間諜罪斬首。

1895年初，日軍查到山崎羔三郎等3人的下落，并找到遺骸，火化后埋入金州北山。同年2月9日，日軍在金州城外崔家屯一山丘上為山崎羔三郎等3人立石碑，并將此山丘命名為“三崎山”（因3人名中都有崎字）。