徐懷玉，本名琮，亳州焦夷縣人。少以雄杰自任，隨太祖起軍。唐中和末，從至大梁。光啟初，蔡寇屯金堤驛，懷玉將輕騎連破之，由是累遷親從副將，改左長劍都虞候。又從破蔡賊于板橋，收秦宗權八寨，奏加檢校右散騎常侍。文德初，同諸軍解河陽之圍，復從破徐、宿。乾寧中，奏加檢校刑部尚書，太祖賜名懷玉。破朱瑾于金鄉(xiāng)南，擒宗江以獻，表授金紫光祿大夫、檢校右仆射。乾寧四年，龐師古失利于清口，懷玉獨完軍以退。光化初，轉滑州右都押牙兼右步軍指揮使，俄奏授沂州刺史。頃之，王師范以青州叛，屢出兵侵軼，懷玉擊退之。天復四年，轉齊州 防御使，加檢校司空，從大軍迎駕于岐下。歸署華州觀察留后。一年，復領所部兵戍雍州，尋召赴河中，補晉、絳、同、華五州馬步都指揮使。天祐三年，授左羽林統(tǒng)軍，轉右龍虎統(tǒng)軍，領六軍之士赴澤州。尋為晉軍所攻，晝夜沖擊，穴地而入，懷玉率親兵逆殺于隧中，晉軍遂退。開平元年，授曹州刺史，加檢校司徒。明年，除晉州刺史。其秋，晉軍大至，已乘其墉，懷玉選親兵五十余人，擁殺下城。晉軍既退，出家財以賞戰(zhàn)士。歲中，晉軍又至，懷玉領兵敗之于洪洞。三年，制授鄜坊節(jié)度使、特進、檢校太保，練兵繕壁，人頗安之，加檢校太傅。乾化二年，庶人友珪既篡立，河中朱友謙拒命，遣兵襲鄜州，懷玉無備，尋為河中所擄，囚于公館。及友珪遣康懷英率師圍河中，友謙慮懷玉有變，遂害之。懷玉才氣剛勇，臨陣未嘗折退，平生金瘡被體，有戰(zhàn)將之名焉。