胡惟庸担任丞相之职时，中书省的大权实际上由他一人掌握。按规定内外诸司大臣给皇帝的奏折都要经过中书省，但是胡惟庸仗着朱元璋对他的宠幸，独擅专权。
凡是对他的不利的奏章都按下不发，甚至罢黜官员也不经过朱元璋同意。洪武十三年（1379年），朱元璋终于不能忍受胡惟庸欺上瞒下，结党营私，便借着占城国使臣事件将胡惟庸拿下。
关于胡惟庸的死法，似乎有多种。电视剧《传奇皇帝朱元璋》中，胡惟庸被押往午门外，头和四肢分别套上一匹马，随着行刑命令的下达，胡惟庸越来越痛苦。不过在死之前，他仍声嘶力竭地喊：朱元璋你就算躲过了这一劫，也躲不过下一劫。在他刚喊完，五马飞奔，胡惟庸立刻被五马分尸。
