1126年，金国十万大军入侵北宋。金军分遣数千铁骑攻打磁州，时任磁州知州的宗泽身披战甲亲自登城指挥作战。磁州全体军民在宗泽的带领下奋起反击，很快就将这支金军打得落荒而逃。这是宋军第一次击败金军，虽然金军阵亡仅数百人，但却打破了金军不可战胜的神话，极大鼓舞了河朔地区宋朝军民的抗金斗志。
不久，宋钦宗的弟弟、康王赵构奉命出使金国。在经过磁州时，宗泽果断将赵构留下，因为一旦落入金国人的手中，再想全身而退就很难了。后来的事实证明，正是宗泽的这次劝说，才为大宋王朝的延续留下了血脉。
当时金军将大部分兵力都投入到围攻北宋京师开封城的行动中，后方留下了很大的空档。宗泽就利用这一点在敌后战场发起突袭，并取得十三战皆胜的战绩。
宗泽认为金军只是纸老虎，并非不可战胜，因此建议赵构以天下兵马大元帅的名义率领大军到开封勤王。可是赵构一方面是被金军吓破了胆，另一方面可能也是存有私心。所以他不顾宗泽的建议，带着勤王大军绕过开封，尽量避免同金军接触。宗泽也因此被疏远。
