桓玄以为已经掌控所有军队，天下没人可以反抗。不料以刘裕为首的北府旧部在京口誓师起兵，凭一千七百人，而公然宣称要讨伐桓玄，复兴晋室。桓玄拥兵数十万，但他知道刘裕乃是当世无二的英雄，听到消息非常害怕。桓玄自己的兵大部分都畏战，而北府兵都是刘裕旧部昔日同袍，向来畏惧刘裕，不敢与刘裕对阵。刘裕一出兵，北府兵随即望风投降。桓玄越战越败，越败越怕。刘裕起兵只三个月，桓玄就兵败身死。
刘裕后来又连续灭掉南燕、孙恩的余党卢循以及后秦。东晋元熙二年（公元402年），刘裕逼迫东晋最后一任晋恭帝退位，自立为皇帝，国号"宋"，国都仍在建康。东西晋合计立国一百五十六年，刘裕开启了"刘宋"皇朝，是后来南北朝时期南朝的第一个朝代。
