更换太子一事非同小可，如果处理不好，往往会造成内乱，历史上已经有很多前车之鉴。而且李渊优柔寡断，没有立刻践行诺言。此事让李建成得知，于是联合齐王李元吉暗中图谋作乱。
李世民掌握军权，平定群雄后，得到大量的珍宝、土地等。贵妃们私下向李世民索要恩惠，又为亲族求官，往往被李世民拒绝，因此她们心生怨恨。妃嫔们在李渊面前谗毁李世民凶狠无礼，并且夸奖李建成慈爱宽厚。李渊听信谗言，从此疏远李世民而厚爱李建成，决定不再改立太子了。李建成勾结李渊的宠妃，作为内援。
李建成知道枪杆子出政权，想组建一支自己的军队，这样才能和李世民抗衡。于是他私下招募勇士，以及长安恶少年二千多人，分别驻扎在左、右长林门，号为长林兵。
李渊去了仁智宫，让李建成留守京城。李建成先令庆州总管杨文干招募勇士送到京师，计划发动政变。李建成又派郎将尔朱焕、校尉桥公山带着大量铠甲赐给杨文干，让他武装起兵接应。尔朱焕、桥公山害怕获罪，将事情告诉了李渊。
