兵部尚书这个官职来源于我国古代的三省六部制，三省六部制首创于隋朝，之后在唐朝得到了完善。这套制度各个朝代都对其有一定的补充或修改，但是其主体一直都没有变。三省六部制中的三省指的是中书省、门下省、尚书省，六部指尚书省下属的吏部、户部、礼部、兵部、刑部、工部。每部各辖四司，共为二十四司。六部中地位最高的当属礼部，因为古代注重地位尊卑，讲究礼法自然，主管国家各项典礼活动。与兵部相对应的是吏部，吏部主管全国官员的任命调整，士子寒窗苦读通过科举之后，经常看到候补之类的，至于什么时候上任，什么官职就是吏部决定的。吏部主管文官，兵部主管武官，但是我国各个朝代都在限制武官的权利，在宋代达到了最顶峰，同级别的武官要比文官低半级，这也是宋朝孱弱的原因之一。
兵部尚书名义上凡是与军队有关的都有权利管辖，大到国防安全，军官的任命，小到军队士兵操练，后勤等等，整个兵部都需要听兵部尚书的话。但是实际上并没有调动军队的权利，这也是限制武官权利的重要一环。
