在秦代以前，中國的武職將軍名號只有大將軍、前將軍、后將軍、左將軍、右將軍、偏將軍、裨將軍。漢文帝時(shí)始有車騎將軍、衛(wèi)將軍，漢武帝為霍去病專設(shè)一重號將軍——驃騎將軍，位等大將軍，之后則位次大將軍。自武帝征匈奴始，之后將軍名號日益繁多，如驍騎、樓船、材官、伏波、貳師、度遼、龍?bào)J等，或以所領(lǐng)部隊(duì)（如驍騎、材官），或因奉行的任務(wù)（如李廣利攻貳師城），甚至或因童謠（如龍?bào)J），隨立名目。而絕大多數(shù)則取威武之名，如寇軍、揚(yáng)威之類。

南北朝時(shí)，將軍名號更加泛濫，名目繁多，南朝梁共有三百六十一（包知加封境外人士的一百二十五號）。

這期間將軍稱號也被劃分成二類，即重號將軍和雜號將軍，重號將軍職位高，輕易不封，雜號將軍職位較低。兩漢重號只有大將軍、驃騎將軍、車騎將軍、衛(wèi)將軍，三國開始增多大將軍、驃騎、車騎、衛(wèi)、四征將軍、四鎮(zhèn)將軍，皆為重號將軍。但亦有例外，如南朝宋四鎮(zhèn)亦在雜號之列。雜號加大者亦為重號將軍。