唐朝太子李建成早就非常欣赏魏征的才华，所以就任命他为太子洗马。虽然李建成的名声没有李世民大，但是魏征对李建成还是非常忠心的。后来太子李建成与秦王李世民开始争权夺利时，魏征作为李建成的谋士，为他出了很多主意，以此来对付李世民。而且他还曾经劝李建成趁早将李世民斩草除根，来保住自己的太子之位，但是李建成并没有听从魏征的意见。
626年，"玄武门之变"，太子李建成和齐王李元吉被杀，唐高祖李渊被迫退位，秦王李世民当上了皇帝，是为唐太宗。李世民继位之后，第一件事就是召见魏征。当众人都在为魏征而担心的时候，他本人却非常坦然的面对这件事情。李世民见到魏征后，第一句话就是问魏征为什么要离间他们兄弟。魏征却说："如果太子当初听了我的话，就不会有今天的下场了。人都是各为其主，我又有什么过错呢？就像当初齐桓公和管仲一样，管仲不也是射过齐桓公一箭吗？"唐太宗听完魏征的话，见他无所畏惧，并且又很有才能，于是便器重他。后来唐太宗任命魏征为谏议大夫，首先让他去安抚李建成和李元吉的余部。魏征没有辜负唐太宗的期望，用实际行动证明了朝廷的态度，成功安抚了李建成的残部，安定了河北。
此后魏征担任了很多职位，一直为唐太宗所重用，并且一直直言上谏，在唐太宗取得了贞观之治的成效后有所懈怠之际，魏征敢于直言上谏，让唐太宗一直勤政为民。不仅维护了唐朝的统治地位，也为百姓的安居乐业作出了贡献。一直到魏征去世时，唐太宗痛哭说："以铜为镜，可以正衣冠；以史为镜，可以知兴替；以人为镜，可以明得失。魏征去世了，我就少了一面镜子。
