赵匡胤思前想后，想到了一个办法，就是将兵权分为三部分，分别掌在三个部门手中，分别是：枢密掌兵籍和虎符，三衙管理诸军，而率臣主掌兵权。也正是因为这个制度令宋朝的杜绝了臣子叛乱的可能，那么这三个部分分别是是什么，有什么作用呢？
枢密院的职责其实和国防部的职责差不多，这个部门没有直接指挥部队的权力，但却掌控着全国的兵籍。赵匡胤对于这个部门依旧很担心，所以一旦发生军事方面的大事的时候，还要和其他部门相互商量，用这种方法来让几个部门相互的限制。而因为宋朝重文轻武的制度，所以枢密院这个军事部门的主要长官竟然由文官担任，而其副职枢密副使才由武将担任。
三衙指的是殿前司、侍卫马军司、侍卫步军司三个部分，负责和管辖禁军和厢兵，这样就把全部的军权分为由三衙和枢密院掌控的两部分，而两者之间会相互的制衡。
第三部分就是率臣，这个率臣也分为两部分，一个是在各地领兵的将领，还有就是一些皇帝信任的大臣，一般来说在遭遇战争的时候，皇帝会派一名信任的“率臣”作为战役的主要指挥官，他们的职责就是负责监控这些地方的武将，并且在权力上要高于真正的指挥员。
赵匡胤的这些举措尽可能的限制的武将的权力，但是却让宋朝军队的效率十分的低下，造成了我们现在“弱宋”的印象。
