而程知节竟完全听王文度的摆布，拒绝了苏定方提出的囚禁王文度的建议，以至于延误了军机，更是让兵马在冰天雪地里损失很大，很多马都瘦死了。后来在打了胜仗的情况下，"有胡人数千家开门出降，知节屠城而去。"
这同样是王文度提出的建议，目的就是能够掠夺更多的战利品，而程知节并不阻止，反而极为赞同，等大军回师之后，王文度被处死，而程知节也被免官。程知节平静地接受了这个处罚，当然，没过多久，李治又起用程知节为岐州刺史。
只是聪明的程知节没有赴任，而是选择乞骸骨。当时的程知节已经年近七十，自知年纪大了该退了，所以想告老还乡，而李治也同意了程知节的请求。665年，程知节去世，时年77岁。与侯君集相比，程知节能够善终并不是运气，而是他自己的智慧。
他知道伴君如伴虎，也知道错了就要承担，所以在被李治免官之后，他并没有觉得自己过去的功绩有什么了不得，也不觉得自己被处罚有什么委屈，自然就能坦然接受这一切。
