六年,部署诸路军马北伐金朝扶植的刘豫政权,进取中原。九月,刘豫出兵反扑,高宗下令两淮守军南撤。张浚为保长江天险,星夜驰至采石(今安徽马鞍山市西南),制止宋军撤退,击退刘豫军。可以说这个时候的张浚是南宋当之无愧的架海紫金梁。
绍兴九年正月,宋高宗以宋金和议大赦天下,张浚却因多次上书反对高宗﹑秦桧与金议和,被排挤出朝,这个时候张浚还是一心抗金的。二月,出任福州知州,福建路安抚大使。绍兴十一年十一月,宋金订立绍兴和议;同月,授张浚检校太傅、崇信军节度使、万寿观使闲差,次年封和国公。
绍兴十六年七月,张浚再次上奏备战抗金,奸相秦桧大怒,张浚再次被罢免。被罢去检校少傅、节度使、国公官爵,只保留文阶官特进,以提举宫观,绍兴二十五年十月,秦桧死。十二月,张浚终于被重新起用。
后来张浚一生都在抗金,直到高宗即退位,孝宗即位。 宋孝宗即位后,张浚再次复为枢密使。隆兴元年(1163),封为魏国公 ,都督江淮军马渡淮北伐,后来北伐有成功也有失败。张浚可以说将他的一生都用在了抗金中。