后来桓玄叛变攻入建康，杀了司马元显收了刘牢之的兵权，刘裕深知此时不是桓玄的对手，所以便投靠了桓玄，以此来韬光养晦。
桓玄称帝后，准备削弱北府兵的势力，刘裕提前嗅到了危险的气息，便以打猎为名，聚集了北府兵一千七百余人，在京口举兵起义，传檄四方，由于桓玄的所做所为早就受各地守将的不满。所以，刘裕振臂一呼，各地纷纷响应，一时间桓玄竟成了众矢之的。南宋著名词人辛弃疾在《京口北固亭怀古》中赞叹刘裕"想当年，金戈铁马，气吞万里如虎"，所说的便是这一段故事。
辛弃疾画像
因为桓玄的部将大多是北府兵出身，所以，面对刘裕的进攻纷纷没有了斗志，桓玄面对刘裕的进攻也毫无抵抗的逃跑了。
