全国卫军都属于中央的大都督府。大都督府掌军籍，是全国的最高军事机关。洪武十三年（1380）分大都督府为中、左、右、前、后五军都督府。洪武二十六年定分领在京各卫所及在外各都司卫所。其组织如下：
每府设左右都督各一，掌治府事。成祖以后，又改组如下：
各地都司分隶于各都督府，其组织如下：
和都督府相配合的机关是兵部，长官为兵部尚书，“掌天下武卫官军选授简练之政令”，其下设四清吏司，各设郎中一人，员外郎一人，主事二人：
都督府是统军机关，各省各镇镇守总兵官、副总兵都以三等[4]真署都督及公侯伯充任。有大征讨，则由政府指派挂诸号将军[5]或大将军、前将军、副将军印总兵出，事定缴印回任。明初开国时，武臣最重[6]，英国公张辅兄信，至以侍郎换授指挥同知。武臣出兵，多用文臣参赞，如永乐六年（1408）黔国公沐晟讨交阯简定，以尚书刘俊参军事。宣德元年（1426）成山侯王通讨交阯黎利，以尚书陈洽参赞军务。正统以后，文臣的地位渐高，出征时由文臣任总督或提督军务，经画一切，武臣只负领军作战的任务。如正统六年（1441）麓川之役，定西伯蒋贵充总兵官，以兵部尚书王骥总督军务；正统十四年讨福建邓茂七，宁阳侯陈懋为总兵官，以刑部尚书金濂提督军务。成化元年（1465）讨大藤峡傜，都督同知赵辅为征夷将军，以左佥都御史韩雍赞理军务。同年出兵镇压荆、襄农民暴动，抚宁伯朱永充靖虏将军，以工部尚书白圭提督军务。三年讨建州，武靖伯赵辅充总兵官，以左都御史李秉提督军务。从此文臣统帅，武臣领兵，便成定制。在政府的用意是以文臣制武臣，防其跋扈。结果是武臣的地位愈来愈低。正德以后幸臣戚里多用恩幸得武职，愈为世所轻。在内有部、科，在外有监军、总督、巡抚，重重弹压，五军都督府职权日轻，将弁大帅如走卒，总兵官到兵部领敕，必须长跪，“间为长揖，即谓非体”。到了末年，卫所军士，虽一诸生，都可任意役使了。