由于其得位不正且太过容易，所以他对以前和自己出生入死的武将十分忌惮，非常不信任他们。在统一天下后，他特意宴请几个手握兵权的心腹武将，通过一番言语恐吓，后者很快就"主动"衣锦还乡，回家当富家翁，安享晚年。推杯换盏间，赵匡胤不费吹灰之力，就把分散于武将手中的兵权集中起来，赵匡胤对此举很是得意，然而他却忘记了对他威胁最大的一个"武将"。
"杯酒释兵权"后，赵匡胤很清楚要是自己一人掌握全国兵权，文官集团不会答应，武将们自然也是心有不甘，便决定搞一出"三权分立"的戏码给他们看。赵匡胤先是将一部分兵权交由殿前都指挥司掌控，然后又将第二份另兵权交给侍卫马军都指挥司，最后将剩下的部分委托给侍卫步军都指挥司，这样一来全国兵权一分为三，但三方的都指挥将军都没有调兵之权。
如果要派兵遣将，是要文臣从皇帝这里拿兵符再进行指挥作战的，赵匡胤对自己设计的这一制度很是满意。然而此举只单纯地解决了外姓将军兵权问题，却对皇室同姓没有丝毫压制。这无疑就给其常年征战沙场的弟弟赵光义提供了机会，而他也恰恰是"杯酒释兵权"中唯一被遗漏的武将。可以说，赵匡胤的兵权改革不仅没有削弱赵光义的权力，反倒令其权力得以加强。此后，赵光义其掌握的兵权越来越大，在军中的威望也越来越高，赵匡胤恐怕未也曾想到其弟会尾大不掉，最终"谋朝篡位"。
