從朱元璋渡江，授千戶。積功至天策衛(wèi)指揮僉事。從大軍收中原，克陜西，攻下蘭州，守之。元將擴廓偵大將軍南還，自甘肅帥步騎奄至。諸將請固守以等待援兵。張溫曰：“彼遠來，未知我虛實，乘幕擊之，可挫其銳。倘彼不退，固守未為晚也。”于是整兵出戰(zhàn)，元兵少卻。已而圍城數(shù)重，張溫斂兵固守蘭州，敵攻不能下，乃引去。明太祖稱為奇功，擢大都督府僉事。

已，又命兼陜西行都督府僉事。當蘭州之受圍也，元兵乘夜梯城而登。千戶郭佑被酒臥，他將巡城者擊退之。圍既解，張溫將斬郭佑，天策衛(wèi)知事朱有聞爭曰：“當賊犯城時，將軍斬佑以令眾，軍法也。賊既退，始追戮之，無及于事，且有擅殺名。”張溫謝曰：“非君，不聞是言�！彼煺扔俞屩�。帝聞而兩善焉，并賞有聞綺帛。洪武十年，以參將從傅友德伐蜀，功多。十一年（1378），以副將會王弼等討西羌。明洪武十二年（1379年）論功封會寧侯，祿二千石。洪武十三年命往理河南軍務。十四年（1381）從傅友德征云南。二十年秋帥師討納哈出余眾，從北伐，皆有功。后以居室器用僣上，獲罪，遂坐玉黨死。