清光緒十四年（1888），13歲的馬福祥隨兄馬福祿到河州觀看陜甘總督楊昌浚閱兵，回家后遂生習(xí)武從戎之心，乃隨馬福祿演習(xí)刀槍弓馬，三年不廢。光緒十六年（1890）完婚，娶雙城鄉(xiāng)（今臨夏縣雙城村）紳女載德為妻，翌年與三兄馬福壽一同參加武舉考試。

　　清光緒二十一年（1895）三月初八，循化撒拉、回、東鄉(xiāng)、保安族等群眾近萬(wàn)人在韓奴勒（撒拉族）率領(lǐng)下起義，清廷飛檄甘肅各地，準(zhǔn)回族紳士招兵買馬，“練士勇以資防衛(wèi)”。馬福祥與兄馬福祿招募士勇200名，稱“安寧軍”，分步騎兩營(yíng)，馬福祿任督帶兼步兵管帶，馬福祥為騎兵管帶，歸河州鎮(zhèn)總兵湯彥和節(jié)制。

　　五月初五，河州循化義軍猛攻河湟要隘積石關(guān)，馬福祥兄弟率隊(duì)往援，解其圍。七月二十八日湯彥和軍潰于雙城堡，湯僅以身免，馬福祥兄弟率殘部拼死保護(hù)湯彥和竄逃甘南繞道進(jìn)省城，得總督楊昌浚嘉許。起義軍以馬福祥兄弟“助官軍”，燒其“陽(yáng)洼山住宅，以及親族廬舍蕩然無(wú)存”。

　　光緒二十一年（1895）河湟、海固起義漸成燎原之勢(shì)，朝廷急調(diào)新疆喀什噶爾抻督董福祥督辦甘肅軍務(wù)，馬福祥兄弟率隊(duì)配合，與馬采哥戰(zhàn)于河州城（今臨夏）外圍，手刃馬采哥，河州圍解，董福祥贊其兄弟“真良將也”。授馬福祿記名總兵職，并將“安寧軍”編入簡(jiǎn)練軍。

　　光緒二十二年（1896）馬福祥赴省參加武舉考試，以鄉(xiāng)試第二名考中武舉人。

　　光緒二十三年（1897）春，義和團(tuán)起，馬福祿、馬福祥隨董福祥井京，駐防薊州。

　　光緒二十五年（1899）六月馬福祥統(tǒng)率馬步七營(yíng)，駐防山海關(guān)。

　　八國(guó)聯(lián)軍從天津進(jìn)攻北京，馬福祥兄弟偕漢中鎮(zhèn)總兵姚旺等，同時(shí)有義和團(tuán)配合阻擊，在廊坊車站合圍侵略軍。馬福祥兄弟令騎兵下馬設(shè)伏，步兵兩翼包抄，敵近即放槍，敵人死傷甚眾。馬福祥兄弟“揮短兵闖入敵陣，喋血相搏”。敵人乘火車逃跑。八月十三日，侵略軍抵正陽(yáng)門(mén)，馬福祥兄弟率部力戰(zhàn)，馬福祿陣亡，馬福祥統(tǒng)率余部。八月二十四日京城失陷，慈禧挾光緒帝西逃，馬福祥隨駕扈從至西安，擔(dān)任宮廷警衛(wèi)。

　　光緒二十六年（1900）馬福祥與慈禧近侍太監(jiān)張?zhí)m德結(jié)為金蘭，九月清廷屈辱簽訂《辛丑條約》，兩宮回京。馬福祥隨駕護(hù)送，慈禧、光緒以馬福祥“在京有戰(zhàn)功，沿途宿衛(wèi)，亦著勞謹(jǐn)”，“著加恩，遇缺盡先即補(bǔ)”。光緒二十七年（1901），補(bǔ)為甘肅靖遠(yuǎn)協(xié)副將，奉命回靖遠(yuǎn)駐防。在此期間，馬福祥延請(qǐng)當(dāng)?shù)孛�舉人高炳辰教讀侄馬鴻賓、子馬鴻逵。自己也博覽群書(shū)，摹習(xí)名人法帖，其書(shū)法如人，謹(jǐn)守法度，剛勁有力。

　　光緒二十九年（1903）馬福祥調(diào)任甘肅莊浪協(xié)鎮(zhèn)守使。光緒三十年（1904），馬福祥調(diào)任陜甘督標(biāo)中協(xié)。光緒三十一年（1905）升任西寧鎮(zhèn)總兵，不久又兼阿爾泰護(hù)軍使。清宣統(tǒng)元年（1909）升允將部分新軍編制改編為常備軍，共分馬步四標(biāo)，馬福祥任步兵第二標(biāo)標(biāo)統(tǒng)。閏二月，馬福祥兼代巴里坤鎮(zhèn)總兵。是年冬，長(zhǎng)庚任陜甘總督，將常備軍改為巡防隊(duì)，馬福祥任西路巡防統(tǒng)領(lǐng)，駐防蘭州。與彭英甲共同發(fā)起創(chuàng)辦“光明火柴有限股份公司”。