刘裕又在此时，经孙无终推荐，成为了北府兵的实际控制者刘牢之的部将。刘裕在平定孙恩起义的战争中大放异彩，数次重创孙恩起义军，而且，在当时东晋各将领皆纵兵劫掠百姓之时，唯独他约束将士，对百姓秋毫无犯，这才能够在当地百姓的配合下，将孙恩起义军全部剿灭，逼迫孙恩投海自尽。
孙恩的这一场起义，掀起了巨大的蝴蝶效应--因为东晋王朝将坐镇江北的北府兵以及京防大军主力派遣到了东南战场镇压孙恩，这就给了盘踞在东晋军事重镇荆州，对东晋王朝虎视眈眈的桓氏一族可乘之机。
在东晋大军平定起义之时，桓氏一族的领袖桓玄派遣少量兵力，一直在挑衅东晋，公元402年，权臣司马元显调集北府兵西征桓玄，刘牢之特意将刘裕调到了西线，抵御桓玄。就在两军接触，战争一触即发之时，刘牢之投靠桓玄，导致司马元显战败，随后桓玄大军攻破建康，权臣司马元显被杀，桓玄趁机将刘牢之调离北府兵，夺去他的兵权。刘牢之本想反抗桓玄，但是因为其在阵前临阵倒戈，早已失去了北府兵将士的信任，刘牢之见大势已去，只能在家中自缢而死。
