靠近中央的禁军解决了，那远离中央的地方藩镇同样不能放任，要知道，前朝就是因为这个原因而导致开始走下坡路直至灭亡的。
宋太祖在解决了禁军之后，便开始着手准备收取地方藩镇的兵权了，开宝二年，宋太祖宴请藩臣于后苑，等到喝酒正酣之时，宋太祖借着酒意向宴请的藩臣说出了自己的担忧，其目的就是让这些藩臣主动交出手上的兵权，其中王彦超深知太祖话中深意，当场上奏，恳求太祖收回他的兵权，自己告老回乡，做一个普普通通的平民，宋太祖自然是顺着他的话，收走了兵权，当然最后肯定是一番封赏，不会真正让他做一个小老百姓。
当时并不是每个人都能理解太祖深意的，或者说并不是每一个人都愿意放下手中的兵权的，武行德、郭从义便是如此，在听到太祖的之后，反倒是向太祖大倒苦水，述说自己的不易，这自然是让太祖极为生气。
