1932年3月，在日寇的扶持下，傀儡政府“伪满洲国”成立；为打击伪满洲国，李杜指挥大军反攻哈尔滨，且连战连捷；但就在即将攻克哈尔滨的时候，日寇趁自卫军主力不在依兰，调第14师团偷袭依兰，无奈之下，李杜只好退到梨树镇。
李杜在依兰经营多年，大部分的粮草、武器弹药均落入敌手，加上在日寇的不断围剿，于1933年春退入苏联。
在安顿好部队后，李杜便回国；当时李杜上书国民政府，要求支持他到东北组织和领导义勇军继续抗日，但因此时国民政府将重心放在南方围剿红军，因此否决了李杜的提议。
经过此事后，李杜对国民政府失去了幻想，转而参加进步人士组织的抗日救亡运动；在这期间，李杜接触到了共产党人，思想开始发生变化。
