唐僖宗觉得有机可乘，使出以夷制夷这一招，任命赫连铎为大同军防御使，讨伐沙陀。
唐僖宗乾符五年（878年），黄巢反叛作乱，烽火连天。唐朝军队忙于镇压叛贼黄巢，沙陀人趁机连破唐军，由此实力大增。
不久，招讨使李琢联合幽州李可举、云州赫连铎攻打沙陀。沙陀连败，溃不成军，李克用父子北逃，进入了达靼（鞑靼）。李克用在达靼郁郁不得志。
后来黄巢攻陷了长安，将军陈景思令归降的沙陀兵赶赴长安，结果发生兵乱。陈景思认为只有李克用才有能力统领沙陀兵，于是任命李克用为代州刺史。
李克用率军屡次击败黄巢叛军，战功卓著，长安得以收复，李克用功劳第一。于是唐僖宗任命李克用为检校司空、同中书门下平章事（名誉宰相）、河东节度使。
