史记中记载，程知节跟随李世民时，也担任了军中骑兵将领的要职，穿着黑衣黑甲，俗称"玄甲队"。这支军队是李世民手下的一支核心力量，帮助李世民打下了半壁江山。
根据凌烟阁的排名，程知节要明显领先于秦叔宝，以及文武双全的李绩，究其原因，还是他认清了形势，做出了最正确选择，在"玄武门政变"中他处事果断。在《旧唐书》中记载，政变之前，程知节还曾多次劝说李世民要行事果断，排除身边的异己份子。
然而，他的这一番话，不仅颇受李世民的赏识，还成为了李世民极为信任的一个打手。
并且，因为他在这次流血事迹中的表现，更是备受李世民的重用。
