春秋时代以卿统军，故称卿为将军一军之帅称将军。见《国语·晋语四》、《左传·昭公二十八年》：“岂将军食之而有不足”。此皆非正式官名。到战国时代始为正式官名，而卿仍称将军。见《史记·廉颇蔺相如列传》又置前后左右将军。秦因之。

汉置大将军、骠骑将军，位次丞相车骑将军、卫将军、前后左右将军，位次上卿。见《汉书·百官公卿表上》。西汉还有“中将军”，见《汉书·卫青霍去病传》、《史记·卫将军骠骑列传》。这些将军都是朝廷重臣，常加朝中官号，参与朝政。另外有楼船将军、材官将军、将屯将军、伏波将军等杂号将军，地位稍低，统兵征伐时临时设置，因事立名，事讫而罢。