民國9年(1920年)，湟源縣城街高等小學(xué)建成后，祁遂調(diào)往該校任教，同年即培養(yǎng)出湟源有史以來的第一期正規(guī)小學(xué)畢業(yè)生，為家鄉(xiāng)教育事業(yè)做出了貢獻(xiàn)。民國18年至36年(1929年至1947年)，任湟源縣女子小學(xué)校長，極力倡導(dǎo)女孩子走出家門，上學(xué)學(xué)習(xí)。從“三從四德”、“女子無才便是德”的封建禮教中解放出來，開創(chuàng)出了女子教育的新局面。他并注意培養(yǎng)婦女師資，鼓勵女生深造，倡導(dǎo)婦女參加社會工作，為提高婦女的社會地位，做了堅持不懈的努力。

他在致力于學(xué)校教育之余，堅持勤奮自學(xué)，博通經(jīng)史，善于寫作，尤以書法著稱，其書法嚴(yán)謹(jǐn)，蒼勁有力，書體自成一家，為人們所喜愛。祁維義終生矢志教育事業(yè)，三十年如一日，嘔心瀝血，桃李遍地，譽(yù)孚桑梓。

鑒于他對地方教育事業(yè)的重大貢獻(xiàn)，1947年逝世后，縣上各界人士舉行了盛大的追悼會，三四百人參加葬禮，表達(dá)了群眾對湟源縣教育事業(yè)先驅(qū)者的崇敬和哀思。