虽然尉迟恭看似纯朴忠厚，但他智商很高，看出了刘武周不是个成大事的人，就有了降唐之心。刘武周兵败后，在李道宗和宇文士及等人的劝说下，尉迟恭投降于李世民，被任命为右一府统军，继续统领旧部八千人，与诸营相参。
其他将领都认为，尉迟恭为人不厚道，迟早都会造反。更可怕的是，他本人武力高强，一般人不是他的对手，留着他将会是很大的威胁，就把尉迟恭关进了大牢，并准备择日问斩。而李世民却说："我的看法跟你们不同，尉迟恭如果怀有叛离意图，怎么会在寻相之后呢？"于是就下令将其释放，并赏赐给尉迟恭很多金银财宝，并对他推心置腹地说道："对于其他将领将你私自关押，我替他们向你道歉，希望你不要放在心上。如果你想要离开，就拿着这些钱好好地生活，没有人敢阻拦你。"
李世民的做法，令尉迟恭相当感动，哭的一塌糊涂，并表示自己愿意誓死追随。从此之后，尉迟恭一直跟随李世民左右，曾三次把李世民从死亡之地救出。其中最著名、最危险的一次，就发生玄武门之变的战斗中。
当时李世民在射杀李建成后，就策马追击李元吉，但衣服被树枝挂住，坠马落地，李元吉见此现状，就准备回头干掉李世民。在此危难之时，又是尉迟恭及时赶到，大叫一声，差点把李元吉吓掉魂，并随即将他射杀，堪称玄武门之变的第一功臣。
