尔朱荣本人皮肤很白，而且很帅，小时就表现出果断的性格，喜欢行伍。每次打猎，尔朱荣都以打仗要求部属，命令部下排成军阵进行围猎，而且号令严肃，没有人敢违抗。
北魏由很多部族组成，因此除了柔然等外敌外，内部也并非铁板一块，特别是南迁以后，北魏内部矛盾加深，不断有反叛。尔朱荣承袭了父亲的爵位后，就捞到很多打仗的机会，只是他打柔然的次数不多，有记载的只有一次：当时尔朱荣率领所部4千人追击逃跑的柔然，结果居然没有追上，也不知道他是真追还是假追。不过尔朱荣仍然立有很多战功，他的战功几乎来自于平定北魏内部各部族的反叛。
因为尔朱荣靠内战立功，因此被淳朴的草原民族将领看不起，但是拓跋皇室对他很好，不断给予升迁，他的地位也由低级的游击将军到了抚军将军，并进封博陵郡公。
公元526年，仗着是孝明帝元诩的老丈人，尔朱荣做了一个大胆的举动，他领兵路过肆州时，肆州尉庆宾讨厌他的为人，因此闭城不纳。尔朱荣干脆攻下城池，将尉庆宾关押，同时任命自己的叔叔为肆州刺史。
