1932年，考入縣立師范講習(xí)所，后因家貧輟學(xué)，回鄉(xiāng)辦義務(wù)小學(xué)，專門教授窮人子弟�！捌咂摺笔伦兒�，馬杰參加了民眾干部訓(xùn)練班。

1938年7月，加入中國共產(chǎn)黨。

1939年8月，動員本鄉(xiāng)五六十名青年參加八路軍，編為一個區(qū)中隊，自任隊長，經(jīng)常活動于掖縣城周圍，反偽除奸，擾亂和打擊敵人�！�1940年11月，任掖南（今屬萊州市）縣委軍事部干事。次年5月，任縣大隊政委。

1942年9月，縣大隊擴建為獨立營，繼任政委。

1943年，任掖南縣縣長兼掖西縣工委書記和獨立營營長。

1945年8月， 任山東軍區(qū)第六師十七團政治處副主任。

1945年810月任山東軍區(qū)第六師十五團政治部副主任。11月，任四團團政治處主任兼代政委。

194 6年1月，參加營口北滾子炮戰(zhàn)斗。同年冬，參加四保臨江戰(zhàn)役，受到遼東軍區(qū)通令嘉獎， 該團所有指戰(zhàn)員被記戰(zhàn)功一次。

1947年9月，四團改為東北野戰(zhàn)軍第四縱隊第十一師三十一團，馬杰任團政委。在營口戰(zhàn)斗中，其腿部和胸部被炮彈炸傷， 流血不止，堅持不下火線，仍繼續(xù)指揮戰(zhàn)斗。次年9月，遼沈戰(zhàn)役開始，他腿部帶傷，冒著零下30多度的嚴寒，率領(lǐng)全團晝夜不停地行軍作戰(zhàn)。在解放遼陽城戰(zhàn)斗中，帶領(lǐng)尖刀連，猛打猛沖，突破缺口，為全團進攻掃清了道路。

1948年底，馬杰改任一二二師政治部副主任。次年1月，參加平津戰(zhàn)役。5月，隨軍南下，參加衡（陽）寶（慶）戰(zhàn)役。后赴廣西參加解放桂林和剿匪戰(zhàn)斗。

1950年—1952年，先后任一二二師政治部主任，1952年任師副政委、政委。

1958年4月，任第九兵團二十七軍政治部主任。

1961年5月，任軍副政委兼政治部主任。

1964年6月，升任二十七軍政委。同年，晉升為少將銜。

1972年5月，調(diào)任北京軍區(qū)副政委兼中共河北省委書記處第二書記。

1975年3月7日病故。

1955年，被授予大校軍銜，獲“二級獨立自由勛章”和“二級解放勛章”。1964年，晉升為少將銜。榮獲二級獨立自由勛章，二級解放勛章。