楼上的战士们无畏日本士兵，将日军一个一个推下楼。日本士兵的战斗信念开始动摇。到了下午，一名身受重伤的守军士兵毅然决然地拉响手榴弹，从楼上跳下，和20名日本士兵同归于尽，日军作战决心受到重大打击。面对中国军队前所未有的坚决抵抗，日军在夜幕降临时，被迫停止了步兵攻击，但继续组织炮兵对仓库进行轰炸。“800壮士”的幸存者后来说，，“几乎每一秒都有炮弹落下”。
日军的炮火威胁到了上海租界的外籍人士，而日本方面也一直给他们施加压力，这些外国人遂来劝说中国守军投降。29日，他们向蒋介石递交了请愿书。对蒋介石来说，他的目的已经达到，于是下令守军于31日撤离四行仓库。
然后，日本第3师的最高指挥官松井石根（南京大屠杀的刽子手），起先是同意仓库守军撤退时停火的，事到临头却反悔。谢晋元见日军如此无耻，请示上级继续守卫仓库，与日军战斗到底，但上峰未同意。11月1日午夜，谢晋元带一营剩余的376人成功撤退，又击毙了200多名日本士兵。
图：四行仓库始终未被日军攻破，仓库守军最终奉命退入租界。
四行仓库保卫战，让租界的西方人大为吃惊，他们对中国士兵的勇敢和坚决感到惊讶。蒋介石向全世界表明，他有能力带领中国军队打赢抗日战争，但他的如意算盘落空了，并没有获得西方国家的支持和援助。直到1941年日本偷袭珍珠港，对美、英宣战后，中国在前线的压力才有所减小。
图：在租界，中国官兵虽然被收缴了武器，仍坚持出操训练。
谢晋元带领部队与驻在英租界的第88师其他部队汇合后，英国人马上没收了他们的武器，限制他们的人身自由。原因是英国受到日本人的威胁：如果中国军队走出英国租界，对日本士兵进行袭击，日军将立刻攻击英国租界。
