太平兴国五年（980年）三月，辽景宗发兵十万攻雁门。杨业领数千骑兵从西陉而出，绕到雁门关以北，往南突袭辽军，与潘美前后夹击，大败辽兵，杀死辽国驸马侍中萧咄李，活捉马步军都指挥使李重诲，是为雁门关之战。杨业因此被提升为云州观察使，依然兼任郑州、代州的职务。
自此，杨业在辽军中声威大震，契丹人但凡见到杨业旗号，即刻逃遁。镇戍边疆的主将大多妒忌，有人甚至暗中上书诽谤杨业，宋太宗阅毕后，从不多问，封好奏章交给杨业，以示对其信任。
雍熙三年（986年），宋太宗决定北伐辽国，收复燕云十六州。以忠武军节度使潘美为云、应路行营都部署，任西路军主将，杨业为副主将，西上阁门使、蔚州刺史王侁，军器库使、顺州团练使刘文裕为护军。
