史书上没有记载陈庆之的出身，但萧衍曾说他"本非将种，又非豪家"，这说明陈庆之既非出身书香门第、豪门士族，也不是将门世家，他最多是一位庶族读书人或者小官吏的后代。这样的身份在看中出身的南北朝中，自然是被人看不起的，可能这正是这一点，才让十八岁就散尽家财跟随萧衍的陈庆之直到四十一岁时才得以领兵。
普通六年（525年）正月，北魏徐州刺史元法僧投降南朝梁，并向南朝请求接应。兴许是梁武帝想给自己的这位"秘书"一点建功的机会，于是让他带兵接应元法僧。这个任务并不困难，何况还有胡龙牙、成景俊等人的帮助，陈庆之很快就成功接应元法僧，回到军中。
梁武帝大喜，又让陈庆之带着两千人护送豫章王萧综入镇徐州。北魏出军两万来拒，陈庆之见状没有惧怕，率领先锋攻破敌军堡垒，大胜魏军。可是就在陈庆之率军浴血奋战时，萧综却趁夜溜出军营投降北魏。梁军见豫章王投降北魏，军心涣散，很快被北魏击溃。等到返回时，梁军大多损失惨重，只有陈庆之斩关夜退，保全了部队。
陈庆之能够屡立战功，当然不是偶然，他虽是一位儒生，但他很会带兵。陈庆之出身庶族，深知下层百姓的疾苦，他体恤士兵，注重士气，带兵灵活，善于打运动战，这也是他屡次以少胜多的原因。
