武德九年的玄武门之变中，李建成兵败身死，魏征也被李世民捉住。但李世民慧眼识人，非常欣赏魏征的才学与气节，不仅没有杀他，反而把他委以重任，任命他为詹事主簿、尚书左丞等职务。《旧唐书》记载，李世民"数引征入卧内，访以得失"，经常向魏征咨询治国方略。
魏征"雅有经国之才，性又抗直，无所屈挠"，"思竭其用，知无不言"，经常毫无保留地向李世民直抒己见，也敢于毫不留情当面批评李世民的过错。李世民从善如流，魏征提出的各项建议"前后二百余事"，李世民全都照办，从中受益良多。
然而，人无完人，魏征的建议自然也不可能永远正确。他曾给李世民提过一条建议，结结实实坑了李世民一把，给唐朝带来一场灭顶之灾。《新唐书》记载，李世民和妻子长孙皇后伉俪情深，感情非常深厚。636年，年仅35岁的长孙皇后正当盛年，却身患重病，不久去世。
长孙皇后之死，让李世民悲痛欲绝。后宫之中少了他最心爱的女人，中年丧妻的李世民倍感孤独寂寞。为了填补长孙皇后留下的感情空间，李世民急于物色一个女人迎入后宫。他最先盯上的目标，是弟弟齐王李元吉的遗孀杨妃，想把杨妃娶入宫中。但魏征知道后，及时制止了他，魏征说："陛下不可以臣赢自累"。
