617年九月,窦建德率军攻打相州,驻守相州的李神通不敌,率军退往黎阳,但窦建德乘胜追击,将李神通,魏征一起擒获,621年,李世民率军攻打王世充,此时窦建德又赶来支援王世充,621年五月,李世民击败窦建德,魏征恢复自由,再次入唐。
626年,李世民发动了玄武门事变,627年,李世民登上皇位,将魏征拜为尚书,此后,李世民曾多次向魏征提问治世意见,魏征则直言不讳,前后上书了两百多件事情,李世民则全部纳谏,629年,魏征又被任命为秘书监,开始上朝,并干预朝政。
在政治中,魏征一向以敢于直言而闻名,在一生中,曾给李世民的上书有十万多件,言语激切,态度坚定,在当时,是其他大臣难以比拟的,有一次,李世民问魏征,君主如何才能够明辨是非,魏征则回答,皇上需广泛的听取意见,眼观八方,不能偏信于某一个人。