丘大千战败以后，北魏又派遣元晖业率羽林军两万来援，进屯考城。考城四面环水，守备严固，易守难攻，但在陈庆之的攻势下，两万魏军被全歼，梁军缴获辎重不计其数。
之后元颢让陈庆之继续进攻荥阳。荥阳是北魏京都洛阳的门户，魏帝不敢让荥阳落入敌军之手，于是在荥阳布下重兵七万，以对抗陈庆之。由于荥阳城坚，加上魏军抵抗激烈，陈庆之久攻不克。北魏见机调集大军三十万，将梁军包围，陈庆之也陷入合围当中。
梁军见魏军声势浩大，陷入恐慌。值此危难之际，陈庆之亲自擂鼓攻城，梁军一鼓作气，攻破荣阳，生俘守将杨昱。荣阳失守以后，魏军疯狂反扑，元天穆带领军队围城。陈庆之率领三千精兵，背城而战，击溃元天穆的军队，魏军四散奔逃。
攻破荣阳以后，陈庆之又率军攻打重镇虎牢，魏军守将见陈庆之攻来，不敢与之作战，弃城逃跑。就这样，陈庆之率领梁军连战连捷，一路上所向披靡。由于陈庆之喜欢穿白袍，又让北魏闻风丧胆，所以洛阳城中流传歌谣："名师大将莫自牢，千兵万马避白袍"。
