魏征本来是太子建成的部下，玄武门之变后，有人向李世民告发他。李世民找他当面责问，他却毫无畏惧地说："可惜那时候太子没听我的话。要不然，也不会发生这样的事了。"李世民觉得他既直爽又有胆识，就把他提拔为谏议大夫，专门向自己提出批评和建议。
有一年，唐太宗派人征兵。有个大臣建议，不满18岁的男子，只要身材高大，也可以征。唐太宗同意了。但是诏书却被魏征扣住不发。唐太宗催了几次，魏征还是扣住不发。唐太宗大发雷霆。魏征不慌不忙地说："我听说，把湖水弄干捉鱼，虽能得到鱼，但是到明年湖中就无鱼可捞了；把树林烧光捉野兽，也会捉到野兽，但是到明年就无兽可捉了。如果把那些身强力壮、不到18岁的男子都征来当兵，以后还从哪里征兵呢？国家的租税杂役，又由谁来负担呢？"良久，唐太宗说道："我的过错很大啊！"于是，又重新下了一道诏书，免征不到18岁的男子。
一次，唐太宗从长安到洛阳，中途在昭仁宫(现在的河南省寿安县)休息，因为对他的用膳安排不周到而大发脾气。魏征当面批评唐太宗说："隋炀帝就是因为常常责怪百姓不献食物，或者嫌进献的食物不精美，遭到百姓反对，灭亡了。陛下应该从中吸取教训，兢兢业业，小心谨慎。如能知足，今天这样的食物陛下就应该满足了，如果贪得无厌，即使食物好一万倍，也不会满足。"唐太宗听后不觉一惊，说："若不是你，我就听不到这样中肯的话了。"
