等到恒玄篡位东晋之后，刘裕以打猎为名聚拢被恒玄解散掉的北府军一千七百余人骑兵反叛，最终击溃恒玄大军，攻破建康城，斩杀恒玄，在刘裕的帮助下，晋安帝得以返回国都建康，在这时刘裕还是一位对东晋忠心的大臣。
从义熙元年到义熙四年期间刘裕先后从后秦手中夺得淮北，义熙五年更是率兵消灭南燕过，俘虏国主，之后又平定孙恩妹夫卢循的叛乱，在剿灭意见和自己不和的东晋大臣刘毅，派兵消灭蜀国，击败氐人杨盛建立的仇池，在义熙十一年剿灭拥兵自重的东晋皇室司马休之，彻底统一南方。
统一南方之后的刘裕，在国内进行改革，休养生息，让东晋经过战乱的已经衰弱不堪的国力得以恢复，并且在义熙十二年开始进行北伐，一度攻占黄河以南的大部分土地，收复长安、洛阳等旧都，差一点点完成全国的统一。
在收复长安之后，因为当时跟随刘裕的北府军将领大多都是南方人，在对比当时被胡人糟蹋的不堪的北方，将领们大多思归，再加上后方刘裕亲信大臣刘穆之去世，让刘裕感觉后方不稳，率兵东还彭城，才有了最后的长安之乱。
