1920年直皖战争爆发，段祺瑞费尽心思训练的军队在这次战争中大败，段祺瑞见大势已去，不得不通电下野，寓居天津。
1926年，冯玉祥的国民军在于奉系和直系军阀作战期间，敌军军舰趁此驶入天津大沽口，攻打国民军，并联合其他八个殖民国家，逼迫段祺瑞政府取消在天津大沽口设立的国防设施。
在这样的无理要求之下，北京数千名群众在天安门广场集会抗议，要求段祺瑞政府拒绝八国通牒，但段祺瑞政府却坚决下令开枪杀死四十七余名无辜群众。
这一年，对于段祺瑞来说无疑是黑暗的，不仅是在段祺瑞执政期间自己的政权长期受到张作霖和冯玉祥的掣肘，甚至连他的心腹徐树铮被冯玉祥杀死，他都不敢公开表明自己的愤怒。
