岳飞后来因"莫须有"罪名被秦桧害死于大理寺狱中后，南宋与金国达成"绍兴和议"。战功昭著的牛皋，因而失去用武之地，东调西迁后，在都统制田师中的帐下，任宁国军承宣使、荆湖南路马步军副总管。绍兴十七年（1147）三月初三，田师中奉秦桧之命，召集众将喝酒，在牛皋酒中下毒，牛皋中毒，腹痛难止，第二天在家汇总就然长逝，享年六十一岁。
临终前，牛皋对曾家里的后代说道"皋年六十一，官至侍从，幸不啻足。所恨南北通和，不以马革裹尸，顾死牖下耳。"（我牛皋活了六十一岁，做到侍从的高官，感到很满足，唯一遗憾的是南北议和，让我不能战死沙场，憋屈的死在家里。）
