此后张俊成功率领部下抵抗金军的大举进攻，取得了"明州大捷"和"高桥镇大捷"，又取得"藕塘之战"和"柘皋之战"的胜利，使得金国和南宋进入对峙的局面，彻底断绝了金军灭亡南宋的妄想。当南宋国势稳定，再也不用担心被金军灭掉之后，一向对大将掌权非常忌惮宋高宗开始着手削除张俊、韩世忠和岳飞的军权。
宋高宗先是对大将明升暗降，将张俊和韩世忠封为枢密使，岳飞被封为枢密副使，三人中张俊反映最快，他不等宋高宗明说，就自己要求交出兵权，宋高宗大喜，立刻解除了张俊的兵权，并以此为借口，将韩世忠和岳飞的兵权也给解除了。岳飞被解除兵权之后，依然反对和金国议和，结果被宋高宗和秦桧合谋杀死，韩世忠也被秦桧逼得只能天天在西湖游玩，张俊贪生怕死，为了自保就协助秦桧谋害岳飞，这是他人生的最大污点。
宋高宗虽然解除了张俊的兵权，但是对张俊依然非常宠爱，加封张俊为清河郡王，赏赐张俊大量财物和良田美宅，张俊也非常善于经营家产，他家每年仅仅收的租米就有六十万斛之多，堪称巨富，有人戏称张俊"在钱眼里坐。"其实张俊这样做并非单纯是因为他爱财，而是想借这种手法来表明自己只爱钱，没有谋朝篡位的念头，从而消除宋高宗对自己这个大将的疑虑，避免被杀。
另外，张俊虽然协助秦桧谋害了岳飞，但是和秦桧关系并不铁，秦桧甚至认为张俊太受宠，会影响自己的地位，因此想除掉张俊。一次秦桧故意问张俊："我有一件事要麻烦郡王您，现在建康和镇江两地缺少镇守的主将，您看谁可以担任这两个职位呢？"
