民國9年(1920年)，湟源縣城街高等小學建成后，祁遂調往該校任教，同年即培養(yǎng)出湟源有史以來的第一期正規(guī)小學畢業(yè)生，為家鄉(xiāng)教育事業(yè)做出了貢獻。民國18年至36年(1929年至1947年)，任湟源縣女子小學校長，極力倡導女孩子走出家門，上學學習。從“三從四德”、“女子無才便是德”的封建禮教中解放出來，開創(chuàng)出了女子教育的新局面。他并注意培養(yǎng)婦女師資，鼓勵女生深造，倡導婦女參加社會工作，為提高婦女的社會地位，做了堅持不懈的努力。

他在致力于學校教育之余，堅持勤奮自學，博通經史，善于寫作，尤以書法著稱，其書法嚴謹，蒼勁有力，書體自成一家，為人們所喜愛。祁維義終生矢志教育事業(yè)，三十年如一日，嘔心瀝血，桃李遍地，譽孚桑梓。

鑒于他對地方教育事業(yè)的重大貢獻，1947年逝世后，縣上各界人士舉行了盛大的追悼會，三四百人參加葬禮，表達了群眾對湟源縣教育事業(yè)先驅者的崇敬和哀思。