李纲罢相后，东京开封府的留守宗泽就事实上成为抗金的中心人物。宗泽委任王彦为"制置两河军事"，王彦便派人命岳飞所部赴荣河把守关隘。由于岳飞和王彦难以共事，岳飞便决定率部南下东京开封府，再次接受宗泽的领导。宗泽珍惜岳飞的才干，将岳飞留在营中听候差遣。
建炎元年(公元1127年)冬，金国兵分三路全军出动，在东京开封府所属及其毗邻的州县，宋金两军进行了剧烈的拉锯战。宗泽坐镇东京留守司，虽然四面受敌，但仍从容地调度军队，部署战斗，使得金军无力攻下开封。
建炎二年(公元1128年)四月以后，天气开始炎热，金军撤退，宗泽准备北伐。于是和王彦以及五马山的首领马扩等人共同制订了北伐的计划。宗泽先后二十多次上奏章陈述恢复大计，但始终没有获得赵构的支持。年近古稀的宗泽再也支持不住，背疽发作，于七月初一含恨离世。宗泽死后，杜充继任东京留守，其人无意北伐，置宗泽生前的计划于不顾，北伐终告夭折。
同年八月，金军再次南侵。
建炎三年(公元1129年)正月，金军先后攻下徐州、淮阳、泗州，进袭扬州。同月，岳飞奉东京留守司的命令从守卫北宋皇陵的驻地西京河南府返回开封。二月初三日，南迁扬州的宋高宗得到金军攻陷天长军(今安徽天长)的消息，惊慌失措，落荒逃至杭州。五月，苗刘兵变被镇压后，高宗移驾建康。同时，杜充借"勤王"之名，行脱离危险之实，准备离开开封，前往建康。六月下旬，岳飞率军刚回到开封，就接到杜充的南撤命令。岳飞苦劝杜充不能离开开封南撤，再打回来会付出很大的代价。杜充不听，岳飞只得随大军南下。第二年二月，开封城陷落。
