刘裕眼看机会来临了，马上上表北伐，并于当年三月统领晋军，征讨南燕。
南燕大将公孙五楼见晋军来势汹汹，提议慕容超扼据大岘（今山东沂水县），但遭到拒绝。于是刘裕冒险越过大岘山隘，一举攻克临朐（今山东掖县），一路势如破竹。
之后，慕容超单骑逃往城南左将军段晖营中。刘裕随即下令追击，大败燕军，包括段晖在内的很多将领都被晋军处死。接着，慕容超逃往广固，刘裕又乘胜追击北上，攻克广固外城。慕容超转而退守内城。被困在广固内城的慕容超先后派遣尚书郎张钢以及尚书令韩范向后秦求援。当年七月，后秦主姚兴派卫将军姚强率步、骑兵一万，与洛阳守将姚绍一道，驰援南燕。与此同时，援军方面派遣使者向刘裕宣称，后秦在洛阳囤积了十万兵力，倘若晋军撤军，他们就长驱直人，攻取洛阳。
