赵匡胤想到的第一个人选就是自己的恩人张琼，赵匡胤跟着柴进混的时候，张琼就是赵匡胤的手下，跟随赵匡胤四处征战，还在危难之中救下了赵匡胤的性命，所以赵匡胤十分看重张琼。在赵匡胤夺了众武将的兵权之后，就让张琼担任禁军统领。不过张琼早年的时候得罪过史珪、石汉卿，所以这两个人在张琼担任禁军统领的时候，就在赵匡胤面前诬陷张琼私养部曲。赵匡胤最恨的就是将领私自领兵，于是赵匡胤想都没想直接就把张琼砍了。
张琼死了之后，赵匡胤又找到了一个新的将领，他就是杨信。杨信跟张琼一样，一直追随赵匡胤南征北战，也深得赵匡胤的信任。在公元961年，杨信就被任命为殿前都虞候，掌管禁军。
在杨信担任殿前都虞候的时候一直兢兢业业，一直让赵匡胤放心。不过杨信没干几年，就生了一场重病。于是赵匡胤就给杨信放假，让他回家养病，结果病养得差不多了，杨信本人却成了一个哑巴。
虽说杨信成了哑巴，赵匡胤还是让他担任以前的职务，对他信任依旧。而杨信的工作做的依然很出色，公元969年，北宋将领杜延进等人计划发动宫廷叛乱，结果被巡视的杨信察觉，杨信立马就逮捕了相关人员。赵匡胤得知之后更加欣赏杨信，没过多久就提拔杨信为殿前都指挥使。
