杜如晦跟随李世民南征北战，参与机密，运筹于帷幄之中，西平陇西薛举和薛仁杲；北破刘武周和与宋金刚，东定中原，消灭盘踞洛阳的王世充和窦建德，攻取河北，平定刘黑闼；南灭江陵的萧铣，平定江淮的辅公祏。在历次作战中，杜如晦也因"参谋帷幄"，"决断如流"，而深为秦王府诸僚属所折服。
随着李世民战功越来越大，李世民与太子李建成的矛盾也到了一触即发的地步。由于房玄龄善谋，杜如晦善断，李建成对二人非常忌惮，认为秦王府中最可怕的就是房玄龄和杜如晦。他对齐王李元吉说："秦王府中可惮之人，惟杜如晦与房玄龄耳。"于是，李建成想方设法要将这两个人从秦王府赶走。为了赶走这两人，削弱秦王府实力，李建成在李渊面前说房杜坏话，最终李渊免了两人的职务。
杜如晦与房玄龄早已看出李世民与李建成、李元吉的矛盾不可调和，他们认为：如果让李建成等先动手，那实在是"社稷之忧"。他们劝李世民，在这社稷之危"间不容发"之机，应果断杀掉李建成、李元吉，建议李世民先发制人，先下手为强，才能转危为安。经过一番细致谨慎的精心策划，李世民发动了"玄武门之变"，一举射杀了李建成和李元吉，逼李渊退位，成为大唐第二任皇帝。
玄武门之变后，李世民论功行赏时，以房玄龄、杜如晦等功居第一，晋封杜如晦为蔡国公，赐食邑1300户。贞观初年，杜如晦与房玄龄共同执掌朝政，完善朝廷规章制度，辅助李世民治理天下，共同促成了"贞观之治"。
