胡大海的儿子胡三舍却明知故犯，私自酿酒，朱元璋大怒，下令诛杀胡三舍。此时的胡大海正在奉命攻打绍兴，朱元璋手下的人都劝他，看在胡大海的功绩上饶了胡三舍。但是朱元璋为了严正军法，还是将胡三舍杀了。胡大海儿子被杀却并没有因此兵变，反而在攻下绍兴以后马上向朱元璋请罪。朱元璋很高兴，因为他已经抱着胡大海兵变的打算了，自此朱元璋更加信任胡大海。
至正二十年，陈友谅开始进攻朱元璋的势力范围，在此期间胡大海多次抵挡住陈友谅的进攻，并且趁机占据多座城池，在攻下严州之时，苗将蒋英、刘震、李福归降，胡大海将他们收留在营中，这也为以后的祸乱埋下伏笔。至正二十二年，这三人被张士诚收买，在一次酒宴上，趁胡大海没有防备，蒋英拿出袖中的槌子猛击他，直中脑部倒地，他的次子胡关住、郎中王恺、掾史章诚都遇害。蒋英等人在城中大肆掠夺后，投奔了张士诚。
得知胡大海被降兵所杀，朱元璋暴怒，发誓用这三个人的血来祭奠死去的胡大海。同年李文忠攻下杭州，活捉蒋英，朱元璋亲自拿蒋英的命来祭奠胡大海，悲痛万分的朱元璋多次痛哭，猩猩相信，朱元璋石头般的心也有软的地方，那就是真诚待他的人。胡大海没有后人，朱元璋便把他的灵位移到太庙供养，可见朱元璋对胡大海也是真诚相待。
