杨业在军中素来以勇猛著称，并且屡立战功，因此被国人称之为"杨无敌"。 宋太宗赵光义急攻太原时，杨业力劝英武帝刘继元投降，以保全百姓的生命与财产。赵光义一向钦佩杨业的威名，在刘继元投降后，立刻召见了杨业，并任命他为右领军卫大将军。 由于对镇守边疆经验丰富，杨业很快又被任命为代州兼三交驻泊兵马都部署。 不久，契丹人进攻雁门关，杨业亲率数千精锐骑兵从西陉出发，由小道直奔雁门关北口，再南下绕到敌人背后袭击敌人。结果，大败契丹军。从此以后，契丹人一看到杨业的军旗，便望风而逃。 杨业屡立战功，遭到边疆主将的嫉恨，所以他们经常上疏诋毁杨业。不过，皇帝不但不相信这些诋毁，反而还将诋毁他的奏疏封好交给杨业。
雍熙三年(公元986年)，宋军北伐，任命忠武军节度使潘美为云、应路行营都部署，杨业为潘美的副将，另派西上阁门使、蔚州刺史王侁，军器库使、顺州团练使刘文裕监护军队。 宋军接连攻下云、应、寰、朔四州，大军进驻桑干河。后来，由于战事不利，被迫撤退，潘美、杨业等人回到代州。 不久，朝廷下令让潘美、杨业等人护送云、应、寰、朔四州的百姓迁往内地。这时，辽国的萧太后率领十余万大军已攻占了寰州。 杨业对潘美等人建议说："现在辽军兵锋正盛，不适合与他们作战。朝廷命我们迁移百姓，我们只需要从大石路出发，先派入密告云州、朔州守将，等大军离开代州之后，命云州的百姓先出发。待我们的军队到达应州，辽军必定迎战。此时，让朔州的百姓出城，直接进入石褐谷。我们预先派一千名弓弩手埋伏在谷口。让骑兵增援小路，如此一来，便可以确保三州百姓的安全了！
