此时谍报金人将攻东南，张浚命诸将整军向敌。不久金人大攻江、淮，张浚即治军入卫支援。到达房州，知金人北归，又回师关陕。
张浚在关陕三年，训练新兵，以刘子羽为上宾，任赵开为都转运使，擢吴玠为大将守凤翔。刘子羽开善理财，而吴玠每战必胜。西北遗民，归附日众。所以虽然关陕丢失，但全蜀安全，且以形势牵制东南，江、淮亦赖以安。
绍兴元年(1131)，入陕金军声言回师，却暗留主力企图入川。张浚识破其谋，命吴玠、吴璘等将扼守蜀口，在和尚原之战中﹐大败金军。这一战虽然是吴家兄弟打的，但是却是张浚人生的巅峰，可以说张浚也有名将的潜质。而和尚原之战更是宋朝在岳飞之前堪称唯一的大胜。
绍兴五年，出任右宰相，督岳飞镇压杨幺起义。
