进入了6世纪后，北魏也走向了衰落。520年，柔然发生了内乱：可汗丑奴为其母及大臣所杀，其弟阿那瓌刚继位就被族兄示发战败，于是阿那瓌选择投归北魏。此后阿那瓌从兄婆罗门击溃示发，自号称偶可社句可汗，可又被高车击败，婆罗门带领10万人归降北魏。北魏也不希望高车过去强盛，于是将他们安置在漠南，以抗击高车。
两年后，婆罗门和阿那瓌又叛离北魏，再一次成为了北魏的敌人。524年，北魏六镇爆发了起义，阿那瓌率10万大军进攻六镇，占据了长城以北的漠南之地。得到了漠南之地，柔然稍微恢复了实力，"部落既和，士马稍盛"，于是阿那瓌自称敕连头兵豆伐可汗，柔然汗国再次强盛 。不久，他又击败了高车国，再一次称雄大漠。而六镇起义后不久，北魏就灭亡了，中原陷入了高欢和宇文泰的对峙之中，他们纷纷与阿那瓌结好，相互通婚。
不过阿那瓌可汗复兴柔然只是短暂的。在6世纪中叶，阿尔泰山一带的突厥部逐渐强盛，对柔然产生了新的威胁。552年，突厥首领土门（伊利可汗）因求婚于阿那瓌被拒绝，于是联合高车进攻柔然，阿那瓌兵败自杀，柔然就此分为东西两部。东部柔然随后遭到了北齐和突厥的进攻，很快就瓦解了；西部柔然于555年被突厥木杆可汗俟斤击溃，柔然汗国最终灭亡。有人认为柔然残余部落迁徙到了欧洲，形成了阿瓦尔人，不过目前没有证据。大部分柔然人应该是留在了漠北，融入了突厥之中。
