从此,柔然大伤元气,可汗大檀愤悒发疾死,其子吴提继立,号敕连可汗。八月,魏帝又遣万骑袭已尼陂(今贝加尔湖东南),柔然高车部落降魏者数十万人。十月,魏帝还平城,徙柔然、高车降附之民于漠南,东至濡源,西达阴山,使之耕牧,收其贡赋,并派军镇抚。
自此大败之后,柔然与北魏和亲通好,但和亲通好并未能维持很久,双方围绕争夺西域霸权的问题,又发生冲突。公元460年,柔然吞并高昌,公元470年进攻于阗。公元472-473年,柔然又进攻敦煌,于是北魏又先后数次出兵漠北,讨伐柔然。
在北魏的持续打击下,柔然的势力江河日下,公元5世纪后半叶,柔然内部的被奴役部落连续反抗和逃亡,大大削弱柔然了的力量。公元487年原属柔然的敕勒副伏罗部阿伏至罗率10余万部众西迁,脱离柔然的统治,在西域中亚建立高车国,自立为王。柔然失去对西域的控制,并与其展开持续30多年的战争,柔然因此由盛转衰。虽然柔然在阿那瓌可汗时,曾一度复兴。可不久之后,就爆发了被奴役的部落和奴隶的持续反抗斗争。
6世纪中叶,居住在今阿尔泰山南麓的原柔然锻奴--突厥部日益强大,渐渐的突厥人也开始想要摆脱柔然的控制。阿尔泰山南麓的突厥人部落,是当时柔然国最为重要也是最为发达的冶铁基地,主要生产铁制工具、武器、铠甲等以满足柔然汗国的战争需要。且西突厥人还曾向拜占庭帝国的使者蔡马库斯出售铁器,说明突厥人的冶炼技术出众,这也注定了后来柔然在与掌握了先进冶金技术的突厥人的争斗中,失败的命运。