洪武四年，常遇春的女儿被封为太子妃，蓝玉身份就成了太子的舅舅，他自己的女儿也册封为蜀王妃（蜀王朱椿是朱元璋的第十一子）。因为这层关系，朱元璋对蓝玉投鼠忌器，暂时没有对蓝玉下手。其实这时的朱元璋也很犹豫，他也想为太子留下一员猛将。
洪武二十五年，太子朱标英年早逝。从此蓝玉失去了屏障，朱元璋也没有什么顾忌了，决意拿蓝玉开刀。一向和太子、蓝玉有矛盾的朱棣向朱元璋进言，说蓝玉自侍功高，恣意妄为，恐以后尾大不掉。（朱棣真是高明，他深知蓝玉的彪悍，日后若是起兵，蓝玉将是他最大的阻碍），朱元璋听了这话以后，没过多久就开始决定惩办蓝玉。
洪武二十六年，锦衣卫指挥使控告蓝玉谋反，蓝玉于是就被朱元璋拘捕，次日蓝玉连同家属一并处死。这就是洪武时期著名的"蓝党案"，在此案中被处死的高官中，公爵一名、侯爵十三名、伯爵二名，连坐处死的功臣及家属达一万五千多人。史学家感叹道"于是元功宿将相继尽矣！"
蓝玉虽然屡犯王法，但是朱元璋冠以"谋反"的罪名恐怕是不成立的，种种证据表明蓝玉并没有谋反的意图，如果单单以一般的罪过杀了蓝玉，就不能诛连一个庞大的蓝党，所以必须罗织"谋反"的罪名不可。
