出生于官宦之家。16歲考入上海鐵路中學，以優(yōu)異成績畢業(yè)后正欲繼續(xù)深造，因父病故，家道中落而輟學。民國11年(1922)，俞幼舲考入南京高等師范學校理科攻讀。14年畢業(yè)，先后在省立蕪湖甲種商校、私立皖南中學、廈門集美學校商業(yè)分部、省立安慶第一中等職業(yè)學校任教。24年回宣城，任省立宣城師范教務主任�？谷諔�(zhàn)爭期間任宣城初中校長、省立十二中學教務主任�？箲�(zhàn)勝利后，任當涂采石剛直中學教務主任。解放后在宣城中學任數(shù)學教研組組長。1955年調(diào)往合肥師專任數(shù)學教師兼搞蘇聯(lián)中學數(shù)學教材編譯。1959年8月調(diào)入皖南大學數(shù)學系任講師。俞幼舲一生從教，教澤廣布鄉(xiāng)里，師德可范后人�？谷諔�(zhàn)爭爆發(fā)，宣城淪陷前夕，他任宣師教務主任，不顧個人和全家安危，冒著敵機的轟炸，搶運學校圖書和教學儀器；后又拒絕城鎮(zhèn)富商大賈重金聘任家庭教師，堅持在農(nóng)村學校任教，清貧自守。建國后，俞幼舲對教學工作更為精心，認真鉆研教學大綱和教材，注意改進教學方法，竭盡全力提高教學質量，并帶領全組教師，編譯了《勾股舉隅釋義》。他還留下了百余本數(shù)學習題演算手冊。曾被選為宣城縣政協(xié)副主席，宣城縣及安徽省第一、二屆人大代表，1956年出席安徽省第二屆社會主義積極分子代表大會以及中國教育工會第二次全國代表大會。