刘牢之打算派刘敬宣到桓玄营中讲和，遭到刘裕与刘牢之的外甥何无忌联袂坚决谏阻，刘牢之不听。桓玄攻入建康，杀司马元显，收夺刘牢之兵权，以其堂兄桓修代之。刘牢之惧祸而逃，后自缢身亡。刘裕审时度势，暂投桓玄以行韬晦。由于刘裕屡建军功，于北府旧部中颇有声望，故桓玄也不敢小视他，任命他为中兵参军。
元兴三年（404年）二月，刘裕以打猎为名，聚集北府兵残余兵将一千七百余人，在京口举兵起义，歼灭了桓楚在此的兵力，杀死桓修。接着，众人推刘裕为盟主，传檄四方，各地纷起响应。
四、匡扶晋室
三月，刘裕获王谧等人推举，出任使持节、镇军将军、徐州刺史，都督扬、徐、兖、豫、青、冀、幽、并八州诸军事。不久后，又奉武陵王司马遵承制，总领百官行事。东晋末年，政局混乱，百官放纵，百业废弛，刘裕以身示范，先以威严约束宫廷内外，百官都认真供职，在二三日内，朝廷风气为之大变。
