北府兵之有"百战百胜"的称号，是与刘牢之的赫赫战功连在一起的。他自377年与何谦、高衡、诸葛侃、田洛、孙无终等，"以骁猛应选"，到402年被桓玄夺去兵权，自缢而死，共在军中战斗了25年，身经百战，功居北府军全军之首，举其荦荦大者为:
一、北府兵刚建立不久，即公元379年，前秦派句难、彭超等率兵6万南下至离广陵仅百余里的三阿(今江苏宝应)，建康震动。刘牢之受命拒战，"破难辎重于盱眙，获其运船"，使难、超惨败。刘牢之因功迁鹰扬将军、广陵相。"
二、公元383年，前秦大举出兵东晋，中国古代史上著名的淝水之战在前秦和东晋间打响。此役对前秦而言，是为了统一中国;对东晋则关乎生死存亡。秦军号称"百万"，列阵千里，水陆齐进，势在必得。苻坚就扬言"鼓行而摧遗晋，若商风之陨秋箨"。甚至在出发前就做好了"灭晋"后的安排，如他下诏预授晋孝武帝司马昌明为尚书左仆射,谢安为吏部尚书，桓冲为侍中。说"势还不远，可先为起第"，在长安为这些人修盖住宅，灭晋的信心十足。
