其后李克用与朱温一起追击黄巢叛军，因为醉酒而意气用事，令朱温不满。晚上，李克用被朱温偷袭，侥幸逃脱，从此二人结下仇恨。唐僖宗调节双方矛盾，因李克用破灭黄巢有功，封其为陇西郡王。
唐昭宗时，封李克用为"忠正平难功臣"，进爵为晋王。李克用与各方割据诸侯混战，尤其是朱温，二人之间仇恨最深，争战最为激烈。后来朱温被封为梁王，中原处于梁、晋争霸的局面，朱温占据上风。
后来，梁王朱温逼迫唐昭宗迁都洛阳，不久便将唐昭宗弑杀，扶立傀儡皇帝唐哀宗。这时，朱温势力极盛，按李克用之子李存勖的话说："如今天下的形势，归顺梁国的有十分之七八。"
其后朱温逼迫唐哀宗禅位，自己登基称帝，建立后梁。李克用不承认朱温的政权，于是沿用唐朝的年号。唐朝灭亡后的第二年，李克用病逝，其子李存勖继位为晋王。
