他到任后在北部要沖增設(shè)和莊、甕口（青石關(guān)）兩鋪。萊蕪及其周圍礦冶比較發(fā)達(dá)，礦冶工較多，公元1547年（嘉靖二十六年）青州府暴發(fā)以姚世清為首領(lǐng)的礦工暴動(dòng)，陳甘雨隨參政韓威、知州沈震等前往“剿撫”，姚世清被擒，礦工暴動(dòng)被平，為此受到明廷詔賞。萊蕪縣治后堂和吏所均毀壞已久，致使官治無堂、吏退無所，由他主持新蓋官堂4間、吏舍40間，使官坐其堂，吏居其所。他非常重視文化建設(shè)特別是文物古跡的保護(hù)，下車伊始即“望羊祜之巔，吊史云之祠，陟安期之山，訪孟止之亭，求季嗣之墓”。還刻立了孟子“止嬴論談碑”、季札“使齊傷感碑”、平暴“三勇碑”等。為了教化士民，特為“實(shí)德著于當(dāng)時(shí)，余芳流于后世”的鄉(xiāng)賢高朗、董瑾、李訪、王勉、陳渠、王守身等樹立牌坊，并將舊神觀改為“季孟行祠”。他在泰山及城南仙人山、鳳凰山、城北圣水庵等地留下多處大字摩崖石刻，如“中流砥柱”、“第一山”、“東魯名洞”、“高深絕處”、“過此者圣”等，書法俊逸。他還第一次將萊蕪的景觀篩選出八景，并賦詩(shī)吟頌，詩(shī)文清雅。當(dāng)時(shí)罷歸故里的章丘名宦、“嘉靖八才子”之一的著名戲劇家、文學(xué)家李開先稱其“青年博學(xué)，有規(guī)措之才，警敏之智，臨政略無難色而綽有能聲，刑清事簡(jiǎn)”。

在任主修《萊蕪縣志》。此書八卷，各志沿用大序、小序的優(yōu)良傳統(tǒng)，大序?yàn)榍把�，小序�(yàn)榧?xì)目之序，各序敘述了其篇目?jī)?nèi)容設(shè)置的原因及意義，簡(jiǎn)明扼要。志書內(nèi)容全面，資料翔實(shí)，文字洗練。李開先評(píng)價(jià)其：“于政務(wù)叢集之余，能摭故實(shí)，采新聞，而為萊蕪一佳志”，“有余力而為是舉，固有以也”，其內(nèi)容“無一字之虛言，為千載之實(shí)錄”，成為萊蕪現(xiàn)存最早的縣志。在萊蕪期間，其最小的兒子陳兆科不幸夭亡，陳甘雨將其葬在城南的仙人山上，并樹立“仙丘化鶴表”，撰寫了《述僧問解》《仙人堂仿瘞鶴故事瘞子兆科記》，寄托哀思。萊蕪貢生、郃陽縣知縣楊善為此悲吟道：“封鶴此中真逸少，漫憐不是古焦丘，數(shù)行碑刻乾坤在，三尺佳城草木秋，衲子已成傳故事，萊人無計(jì)借吾侯，吾侯思子民思父，仙不崩兮話不休”。