刘裕乘胜追击，攻克广固外城。慕容超退守内城。刘裕筑长围困之，就地取粮，同时招降纳叛，争取民心。慕容超先后遣使驰往后秦求援。后秦姚兴虽然派兵前来，但不敢向前援救。晋军在前燕降将张纲的帮助下，制成了飞楼、冲车等攻城器具，南燕军在城上的弓矢火炮完全不能发挥作用。最终广固城被攻克，慕容超率数十骑突围而走，被晋军追获，被押送回建康市斩首。
刘裕的北伐告一段落，大获成功。此时刘裕停在下邳，本想乘此机会荡平河洛。但妖贼卢循鸠集孙恩残部，败晋军于豫章，建康告急。刘裕不得已班师回朝。
义熙十二年，刘裕大举进行第二次北伐。这一次北伐比第一次更加声势浩大，性质也有所不同。第一次北伐是讨伐割据山东的南燕鲜卑政权，属于局部性质的。第二次北伐，可以看做是第一次北伐的继续，沈约《宋书·武帝纪》："初，公平齐，仍有定关、洛之意，值卢循侵逼，故其事不谐。荆、雍既平，方谋外略。"当时刘裕已经逐渐平定了国内大部分武装割据势力，目的在于荡平关、河，带有全国性质。
而第二次北伐的主要对象是属于羌族的后秦姚泓。当时姚兴已死，姚泓即位，国内政局不稳。刘裕认为有机可乘，乘机大举北伐。义熙十二年八月，刘裕以刘穆之任尚书左仆射，内总朝政，外供军粮，自己率大军分四路北伐。 龙骧将军王镇恶、冠军将军檀道济领兵由淮、淝转向许、洛，后秦诸屯守皆望风降附，晋军进展神速。十月，王镇恶军占领洛阳，擒送后秦守将姚洸至建康，并修复西晋五帝的陵寝，设置守卒。
