明正统六年,云南少数民族反叛,明英宗决定派兵征讨,命兵部尚书王骥主其事,首次以总督军务入衔。最初,总督只是中央派出的负责某一具体事务的临时官员,而且主要负责军事方面,与地方上的布政使司、按察使司等并无隶属关系。
清朝军队主要分八旗(满军)和绿营(汉军)两个系统。八旗又分京营(京师)和驻防(地方)两部分。驻防八旗驻扎于全国各重要之地,视情况不同设将军、都统、副都统、城守尉、防守尉等官。内地将军等只管军事,而驻扎边疆的将军等要兼管民政。