然而这个时候的右丞相名字叫做杨宪，他自认为朱元璋对自己十分宠信，根本不把汪广洋放在眼里，后来居然还把他搞下了台。然而杨宪的所作所为，也是受到了朝中其它大臣的强烈反弹，很有野心的胡惟庸就趁此机会，找人收拾了杨宪，使得最后还被诛杀。胡惟庸上位以后，朱元璋就想起了汪广洋的好处，又把他调回朝里，这次让他担任了右丞相。然而这个时候的汪广洋经历了浮浮沉沉，已经看透了官场争斗，对于胡惟庸的独断专权、经党营私也是睁一只眼、闭一只眼，终日里只是饮酒作乐，不愿意牵涉其中。
胡惟庸毒杀刘伯温的事情，最后还是被人捅到了朱元璋面前。皇帝就找来汪广洋，问他是否知道其中的详细内情，没想到汪广洋不愿多事，就找言语塘塞，只说自己毫不知情。皇帝对此自然是勃然大怒，认为他坐在宰相的位置上不好好干事，再次将他谪贬到海南。然而当汪广洋行至太平的时候，就有人向皇帝告发，说汪广洋对于杨宪之罪是知情不报，此前还犯有包庇朱文正（朱元璋的亲侄子，后来背叛了朱元璋）的罪行。朱元璋对汪广洋更加恼恨，当即就派人带着毒酒，找到汪广洋逼他自杀了。
汪广洋生前有一个爱妾，名字叫做陈氏，念及先夫的好，也是效仿古人，上演了一出自尽殉情的戏码。按理说她这算是为情而死，朱元璋本来还觉得这女子有情有义，于是就多了一句嘴，问这是谁家女子？有知情者就报告说，这个陈氏是罪官的女儿，因父获罪而被罚到官家为奴。朱元璋更是生气了，因为按照大明律法，这样的罪官之女，只能是赏赐给有功之臣，而汪广洋只是一介文官，明显是不恰当的。
