首次北伐后，刘宋致力于恢复国力，宋魏两国在约二十年时间无战事，互通使节，宋文帝掌政后一直推动农桑，兴文教，抚恤人民，国力上升，史称"元嘉之治"。
在此期间，北魏南线无战事，趁机统一北方，虽然关中发生了盖吴起义，但此时刘宋还在恢复中，又是没做好准备，因此，北魏很快平定关中。
北魏统一北方后，国土南到黄河，北到大漠，此后，北魏屡次出征漠北的努连汗国，以防止其南侵，最终于449年，彻底击败努连，迫使其国向更远的北方逃遁，并获得努连大量辎重、牲畜及人民，从此努连渐渐衰弱，大大削弱了对魏威胁，关于这一段历史，著名的《木兰辞》写道，"万里赴戎机，关山度若飞。朔气传金柝，寒光照铁衣。将军百战死，壮士十年归。归来见天子，天子坐明堂。策勋十二转，赏赐百千强。可汗问所欲，木兰不用尚书郎，愿驰千里足，送儿还故乡。"
此后，北魏将矛头转向南方。
450年二月，北魏攻宋，太武帝亲率大军，抄掠淮西六郡，并进攻悬瓠，守将陈宪以不足千人拒守，魏军攻了四十二日仍无法攻下，只得退兵。至此，经宋将王玄谟怂恿，宋文帝决心北伐。
