裴行俭被委以重任。唐高宗李治命令他为主将带领大唐军队护送波斯王回国。在裴行俭带领下，大唐军队穿过了漫长的沙漠，甚至于一度迷路。唐军将士又饥又渴，一度都放弃了生的希望。裴行俭告诉大家水源就在不远的地方。用谎言稳住了军队。才使得大军走出沙漠成功到达西州。
此后，他用计谋稳住了叛乱的突厥可汗并从容的假借打猎召见西域大国龟兹、等四镇的酋长集合了当地上万青壯突袭叛军，一举擒获了叛乱的阿史那都支。唐高宗得知以后感慨道"裴行俭提孤军深入万里，兵不血刃而叛党擒夷"。于是裴行俭被任命为礼部尚书并且兼任右卫大将军。这一次兵不血刃平定叛乱的做法使得西域诸国震动，各国纷纷归附于大唐。
还是这一年，单于都护各地开始造反，他们拥立阿史那泥熟匋为首领正式反唐。一时间二十四州之地脱离大唐，几十万叛军林立。叛军一度击败了前往平叛的萧嗣业大军。盛怒的唐高宗命令裴行俭带领三十万大军前往平叛。
