宋钦宗赵桓即位后，让李纲就任亲征行营使，负责开封的防御。李纲率领开封军民及时完成防御部署，亲自登城督战，击退金兵。金军主帅完颜宗望见开封难以强攻，转而施行诱降之计，宋廷弥漫了屈辱投降的气氛。李纲因坚决反对向金割地求和，被宋钦宗罢官。由于开封军民愤怒示威，迫使宋钦宗收回成命，李纲才又被起用。完颜宗望因无力攻破开封，在宋廷答应割让河北三镇之后，遂于靖康元年（1126年）二月撤兵。开封守卫战在李纲组织下获得胜利。
金兵撤离之后，李纲即遭到宋廷投降派的排斥和诬陷。马上遭到了朝廷的外放。 李纲被贬不久，金兵再次两路南下围攻开封。宋钦宗在被俘前夕又想起用李纲，但已无济于事。当李纲得知时，北宋已经灭亡。之后康王赵构在南京应天府（今河南商丘）建立南宋。 宋高宗一度起用李纲为尚书右仆射兼中书侍郎（宰相）。
李纲赶到南京，竭尽思虑，为高宗筹划重整朝纲，组织抗金，并同高宗周围的投降派展开尖锐斗争。他反对投降，主张"一切罢和议"，严惩张邦昌和为金兵效劳的宋朝官员，以励上节。为加强抗金斗争的力量，他推荐坚决抗战的老臣宗泽出任东京留守，去开封整修防御设施；并推荐张所和傅亮分别任河北招抚使、河东经制副使，坚持抗金斗争。他还颁布了新军制二十一条，着手整顿军政，并建议在沿江建置纵深防御。
李纲整顿军政的设施，有助于宋朝廷支撑局面，尚能为宋高宗所接受。然而，他主张坚决抗金及反对投降活动，却为宋高宗所不容。因此，又设法驱逐李纲。李纲主政仅七十五天，建炎元年（1127年）八月十八日便遭罢相。
之后的十余年，李纲一直遭贬，再没进入中央朝廷。绍兴十年（1140年）李纲病逝，追赠少师。淳熙十六年（1189年），追封陇西郡开国公，谥号"忠定"。李纲留下了不少爱国篇章，著有《梁溪先生文集》、《靖康传信录》、《梁溪词》。
