在他胡作非为的时候，朱元璋正在暗处悄悄盯着他。等到时机成熟以后，朱元璋以谋反的罪名将胡惟庸一把拿下，胡惟庸连同相关等人一共三万多人被诛杀。
及善长罢，帝欲相杨宪。宪素善基，基力言不可，曰："宪有相才无相器。夫宰相者，持心如水，以义理为权衡，而己无与者也，宪则不然。"帝问汪广洋，曰："此褊浅殆甚于宪。"又问胡惟庸，曰："譬之驾，惧其偾辕也。"帝曰："吾之相，诚无逾先生。"基曰："臣疾恶太甚，又不耐繁剧，为之且孤上恩。天下何患无才，惟明主悉心求之，目前诸人诚未见其可也。"后宪、广洋、惟庸皆败。---《明史》
而宰相制度，也被朱元璋成功废除。从此以后再也没有了宰相，胡惟庸成为中国历史上最后一位宰相。可怜的是，刘伯温就是在胡惟庸胡作非为的时候，被他给毒死的。
03朱元璋了解刘伯温的清高，不适合处理群臣关系。
