李建成毕竟是大唐的太子，征讨这样的事情多是李世民在做，所以后来张士贵又多跟随李世民四处征战，但并未成为李世民的心腹大将，直到"太宗特遣殷开山、杜如晦赍金银四百挺以赐之。"张士贵才算是真正成为李世民的人，并在后来参与了玄武门之变。
643年春天，此时距离李渊晋阳起兵已经过去26年。李世民综合考虑平定天下、玄武门之变和治理天下这三个方面的因素，选出了具有代表性的二十四位功臣，让阎立本为他们作画，并将其放入凌烟阁中，这就是著名的凌烟阁二十四功臣。
而在这二十四位功臣中，有一位最为特殊，他就是殷开山，为什么说殷开山是最特殊的呢？原因就在于殷开山去世的非常早。622年，他跟随李世民平定刘黑闼叛乱，却死在了途中，那时李唐刚刚建国不过才四年，还未实现天下统一，而玄武门之变也还要等上四年。
按照这个时间线来说，殷开山似乎不可能立下多大的功劳，以至于过了21年，李世民居然还记得这位老部下，并让他入了凌烟阁。但事实就是，殷开山的确成了凌烟阁功臣，而且还排在了第十三位，柴绍、侯君集、程知节、李绩和秦琼等人都排在了他的后面。
