陈庆之还派兵北伐过北魏，通二年（528年），北魏发生内乱，镇压叛乱的尔朱荣大肆屠杀北魏皇室，梁国看到了机会，陈庆之就带领了7000部队护送元颢北归，元颢遂于睢阳城南称帝。授予陈庆之使持节。事情没有这么简单，北魏很快就带领7万人围了上来，陈庆之命部下在水面筑垒，攻陷其城，全歼2万，俘元晖业获，租车7800辆。
随后北魏魏将上党王元天穆大军将至，先遣其骠骑将军尔朱吐没儿领胡骑5000、骑将鲁安率夏州步骑9000增援杨昱。又遣右仆射尔朱世隆、西荆州刺史王罴率骑兵1万，进据虎牢。[21]魏军共计30万人，浩浩荡荡的对梁军合围。
很多梁军哭的心都有了，陈庆之很淡定，他亲自擂鼓，让部队攻城，只是一次击鼓，梁军便全部都登上了城墙。勇士宋景休、鱼天愍首先登上城墙，梁军相继而入，于是攻占了荣阳而且俘虏了杨昱，陈庆之在城外，带领三千骑兵，击破敌军包围，元天穆、尔朱吐没儿都独自逃跑了。陈庆之收缴荥阳的储备，牛马谷帛都不可胜计。
七千人破敌军30万，这种战绩不是韩信和白起能打出来的。韩信一般是靠重兵包围，用几倍的兵力进攻，打项羽就是这么赢的。而白起也都是打兵力五五开的战役，而陈庆之一般只有几千部队，就能击破30万敌军，后来他经常率领几千兵力，在北魏的中原地带攻城略地，这点兵力能打成这样，真的是了不起。
