为了向李建成表忠心，罗艺还不惜公然与李世民挑起矛盾。有一次，"太宗左右尝至其营，艺无故殴击之"，李世民的一个部下到罗艺军营中办事，罗艺却无缘无故当众殴打他一顿，以此向李世民示威。李世民很生气，向李渊告了一状，李渊也没有认真处置。
然而罗艺没料到，玄武门之变中，李世民大获全胜，并且最终当上了大唐皇帝。但李世民忙中出错，忘记了杀掉罗艺这个李建成的心腹干将，结果酿成一场大祸。玄武门之变一年后的贞观元年，罗艺经过一番精心筹备，正式起兵造反。
罗艺本人能征善战，威名赫赫，手下有一支数万人的精兵，更为可怕的是，罗艺还与强大的胡人部族颉利可汗暗中勾结，关系密切。罗艺又掌控着北疆重镇幽州，如果把幽州献给颉利可汗，则中原顷刻之间门户大开。如果他与颉利可汗联合进兵南下，结果对于李世民来说会是灾难性的，因为新生的唐朝当时完全不是颉利可汗的对手，唐朝很有可能被就此毁掉。
李世民紧急派出长孙无忌和尉迟敬德，带领大军前去幽州平叛。幸运的是，罗艺军中意外发生大规模兵变，叛军四分五裂，土崩瓦解。罗艺一看局面失控，只得带着数百亲兵逃奔塞北颉利可汗。途中他的亲兵又再次内讧，罗艺被杀，一代枭雄就此走完一生。李世民得以有惊无险躲过一劫。
