最初，他先是依附门阀世族的代表，前将军、青兖二州刺史王恭，帮助王恭压制了皇族代表司马道子，但这样的大功，并没有取得王恭的尊重，出身士族名门的王恭，对出身一般武将家庭的刘牢之甚为藐视，只把他当成走狗爪牙，"礼之甚薄"，使得刘牢之在人格上感到极大的侮辱。
而此时正被压制的司马道子和司马元显父子，看准这个机会，趁机策反了刘牢之。
公元398年，王恭再次兴兵，刘牢之在行军途中发动兵变，袭击王恭，王恭被俘，后被司马道子杀害。刘牢之背叛王恭，使高门士族同皇族势力的斗争中遭到重大失败。随后，司马道子、司马元显父子任命刘牢之都督兖、青、冀、并、徐、扬、晋陵诸军事，成为凌驾于门阀社会之上的武将代表，东晋实力最强的"北府军"的实际掌控者，司马父子稳定权势的王牌，刘牢之的人生也达到顶峰。
但随着司马父子专权，政治上日益失去人心，士众对他们的憎恨与日俱增，作为"打手"的刘牢之，名声自然也跟着受损，这使得他非常苦恼，却无计可施。
