武德九年(公元626年)，在太子李建成集团和秦王李世民集团争夺太子之位的血雨腥风中，左一马军总管程咬金首先成为李建成的清洗对象，准备把他调到离长安十万八千里的康州(今广东德庆县)当刺史。
程咬金着急了，对李世民说："大王股肱羽翼尽失，身何能久!知节以死不去，愿早决计。"(见《资治通鉴.唐纪七》)六月初四日，在诸将领的拥戴下，李世民发动了"玄武门事变"，灭了李建成集团;两个月后，李渊禅位，李世民正式登基。程咬金因为这场大功劳，先拜太子右卫率，再迁右武卫大将军，赐实封七百户。
太宗贞观年间，程咬金历任泸州都督，左领军大将军。又改封卢国公，授普州刺史。贞观十七年(公元643年)，再转左屯卫大将军、检校北门屯兵、加镇军大将军。也就在这一年，他的图像荣登凌烟阁唐二十四开国功臣榜。
高宗永徽六年(公元655年)，程咬金迁左卫大将军，并被任命为葱山道行军大总管。显庆元年(公元656年)八月，"葱山道行军总管程知节击西突厥，与歌遏禄、处月二部战于榆慕谷，大破之，斩首千余级。"
