其实，当时的北汉政权并非汉族政权，而是一个由沙陀族人刘崇建立的伪政权。在宋太祖建立宋朝之后，北汉一直勾结辽国，不断侵扰宋朝。杨业成就的无敌之名，其实是建立在杀戮宋军的基础上。
太平兴国四年，北汉被灭，国主都已经投降，杨业还拒绝投降。当时的宋军将领因为将士被杨业屠戮很多，大都深恨杨业。宋太宗却认为杨业乃是一代名将。千军易得，一将难求。
并且，北汉所在地未来必定会成为抗辽前线，如果能由一位北汉旧将统领当地军队，对于宋太宗掌控北汉（即山西）故地会有很大帮助。于是，宋太宗不但让北汉国主给杨业写信劝降，还一再提高官职，邀请杨业归顺。
最终，杨业投降了宋朝，并且被任命为代州知州，兼任三交驻泊兵马部署。杨业非常感动，从此对宋太宗忠心不二。
