总督在晚清地方官中掌握最大的兵权，在调兵遣将上拥有绝对的掌控权。清朝前期兵权还是掌握在驻防将军和都统手中，相比之下总督的兵权较弱，只能听从兵部的指令。清朝的军队是由我们熟知的八旗军和绿营军组成的。八旗军分布集中在重点城市，绿营军分布较为分散，有利于八旗军监督绿营军。
驻防将军和都统都是由八旗军的长官担任，是地方最高军事长官，绿营军由总督负责。八旗军和绿营军的实力悬殊，八旗军实力强大，是军中的精锐受到皇帝的重视，绿营军的主力是明朝剩余的降军。当然这只是在清前期，到了乾隆时期，长期的安逸生活导致八旗军实力衰退，绿营军则扭转成为主力。
清政府将全国分成各直省、特别行政区、边远地区、少数民族聚集区，因地制宜分别实行不同的政治制度。各直省设省、道、府、县四级行政主管部门，督抚则是省内最高行政长官。总督更加侧重于军事，巡抚更加侧重民政。督抚直接对皇帝负责，受皇帝掌控。总督没有招募军队的权力，也不能大规模调动军队，可以小规模调动自己管理的绿营军。相较而言，驻防将军和都统的权力更大，可以招兵训练。
清后期八旗军的战斗力下降，绿营军成为主力，总督的权力变大了许多，可以直接指挥军队作战。直到朝廷丢失了江南富庶之地，没有了经济来源，国库空虚，无法负担军用，朝廷只能同意地方招募军队进行训练，而组建起的军队也不再受朝廷的控制。地方兵权落在了总督手中，曾国藩组建的湘军，李鸿章组建的淮军，就是那一时期的产物。总督执掌兵权成为了当时的主流。
