可以说对于北汉，杨业没有半点亏欠的地方，坚持到了最后。他投降后赵光义十分高兴，立刻任命为左领军卫大将军，又考虑到他对边境战事很有经验，改任代州知州兼任三交驻泊兵马部署。
第二年，辽帝发兵十万攻打雁门关，意图入主中原。杨业率领数千骑兵从西陉而出，绕到雁门关以北，往南突袭辽军，与另一名宋将潘美前后夹击，大败辽兵，杀死辽国驸马侍中萧咄李，并活捉马步军都指挥使李重诲。
经此一战，杨业在辽国声威大震，辽军畏其如虎，一见到杨业旗号就逃为上策，根本不敢与之交战，赵光义对他也极为信任。
很多将领嫉妒杨业的功绩，暗中上书诽谤，赵光义看后不做处置，转手就交给杨业，还提升他为云州观察使，依然兼任郑州、代州的职务。杨业感激宋廷的信重，对北宋更为忠诚。
又过几年，赵光义决定北伐辽国，收复燕云十六州，派遣潘美、杨业、田重、曹彬、崔彦进五位大将分东、中、西三路，以东路为主出兵北伐。
