公元626年，李建成和李世民之争已经白热化，在李世民发动玄武门之变前，秘密召房玄龄、杜如晦入秦王府，二人通过一整夜的谋划，最终给秦王李世民制定一个缜密的政变方案。几天后，玄武门喋血，李世民取得胜利。李世民曾说过：
"贞观之前，从朕经营天下，玄龄之功也。"
李世民登基后，以房玄龄等5人为一等功，任房玄龄为中书令（宰相）。从此，房玄龄的角色开始转变，他从一位谋士，变成了一位政治家。在唐朝宰相任上一任就是22年。这22年里，房玄龄帮李世民整治吏治，休养百姓，完善国史，功绩不输当年。
房玄龄居功不傲，每逢李世民批评大臣，房玄龄总是战战兢兢，检讨自己是否有同样的错误。正是因为如此，李世民才对房玄龄信任不已，每逢李世民出宫巡游，把留守长安的就交给房玄龄。即使是太子遇到难题，李世民也建议太子去征询房玄龄的意见。
