唐玄宗逃走之后，河南、河北与关中的大部分地区都被安禄山占领。叛军只要继续向东南推进，在攻克雍丘与睢阳之后，便可控制住富庶的江淮地区，并且切断漕运要道，那样唐朝就会被挤压在宁夏与四川这两个偏远的地方，太皇上唐玄宗与今上唐肃宗都再无还手之力了。
于是，叛军令狐潮奉命进攻雍丘，他与守城将领张巡是故交，在交战之前，二人于城下交涉。令狐潮大声说："天下事去矣，足下坚守危城，欲谁为乎？"
张巡回答说："足下平生以忠义自许，今日之举，忠义何在！"令狐潮面露愧色而退，他令军队团团围住雍丘，切断城中与外界的一切联系。四十天后，令狐潮又对张巡说长安已经沦陷，皇上自己都逃亡去了，你何不趁早投降？当时有六名将领认为众寡不敌，玄宗存亡未可知，不如投降为好，张巡便假装同意。第二天，他在大堂上陈设玄宗的画像，然后引六名将领到跟前，当着众人的面将他们全部斩首。
眼见粮草即将耗尽，张巡便打开南门，假装向敌人叫战，暗地里却派勇士衔玫渡河，偷取了叛军的千斛盐米。他还让士兵们编出一千余个稻草人，趁着夜色沉下城去，诱使敌人争相射击，以此借得弓箭数十万枝。之后又趁敌人松懈的机会，放下五百名敢死之士，前往焚杀敌军的营帐，使令狐潮付出了沉痛的代价。在经过四个月的战斗之后，张巡以三千人的兵力前后斩杀叛军数万人。
然而，随着山东地区沦入敌手，雍丘的粮道被断绝了。张巡只得率众转战宁陵，他于唐肃宗至德二载收到睢阳太守许远发来的急报，说叛将尹子奇正引兵十三万来犯，如果睢阳失守，江淮就保不住了。张巡闻讯，急忙离开宁陵，率领三千兵马进入睢阳，与许远组成一支仅六千八百人的守城部队。
