魏征墓葬坐北朝南，墓前有平台，上面是一座石碑。石碑的碑额利用蟠桃作为装饰。所有的陪葬墓中只有魏征墓的石碑是用蟠桃作为装饰，有相关专家猜测，这是唐太宗借几千年才开花结果的蟠桃，来寓意魏征是千年不遇的人才。整座石碑被龟身负起，这倒是和唐朝石碑中常用到的造型。但让人感到的奇怪的是，历史资料记载，魏征墓的石碑是有字的。而且是唐太宗亲自为魏征墓碑撰写的。但如今魏征墓前的石碑并没有字，这是怎么回事呢？关于这方面的原因，其实一直以来有两个说法。
一是，魏征生前曾辅佐过太子李承乾，并向李承乾举荐了两个人才一个叫杜正伦，另一个叫候君集。魏征死后，这两个人一直在辅佐李承乾，本来一切都好好的，坏就坏在李承乾的嫉妒之心。李承乾是太子，以后可是要治理国家的。对他寄予厚望的唐太宗要求自然严格一些。这样一来，就显得唐太宗对李承乾的弟弟李泰格外的宠爱。而集万千宠爱于一身的李泰，有时候难免会在言语上冲撞到李承乾。李承乾又是嫉妒唐太宗对李泰的宠爱，又是忌惮李泰会借着唐太宗对他宠爱谋取自己的太子之位，便想将李泰杀掉。但是要杀掉李泰，一国之君的唐太宗自然会有所察觉，到时候就是偷鸡不成蚀把米。
于是李承乾干脆撕破脸一不做二不休的，直接与汉王李元昌、城阳公主的驸马都尉杜荷、侯君集等勾结，意图起兵逼宫。结果姜还是老的辣，被唐太宗一举拿下。但到底是自己寄予厚望的儿子，唐太宗舍不得杀掉李承乾，只是将他关了起来。但其余的人可就没有那么幸运了。唐太宗将侯君集以谋反罪斩首，又将杜正伦给罢免了。处理完这两个人，太宗怒气还没有消。这两个人，可都是曾经被魏征力荐的人。但魏征已经死了，唐太宗一腔怒火没处释放，就对魏征的墓碑动手了。
还有一个说法就是，魏征曾把自己给唐太宗民的谏言整理成册，并让史官褚遂良过目。史官的一只笔可是会如实记载君王生前事的。所以没有哪一个帝王，希望自己在史官心目中的形象是一个相当缺乏决断能力的君主，其行为被大臣们的言行所左右，有损其独立判断、果断决策的形象。这事摊到谁身上，谁心里都不痛快。这个魏征想干什么？抹黑朕么？再想到自己还蛮是不舍的给魏征亲自撰写了碑文，唐太宗越想越生气。一怒之下，唐太宗命人抹去魏征碑上的碑文，甚至直接砸掉了墓碑。
