尔朱荣
后来，贺拔岳与其兄贺拔胜一起镇守恒州（今山西大同市）。恒州被起义军攻破后，兄弟二人又投奔了都督恒、朔二州军事的北魏安北将军尔朱荣，尔朱荣在镇压六镇起义的过程中，收编了各镇被起义军打散的官军和豪杰以及部落首领，扩张了势力，成为了一个有实力的军阀，一心想凭借实力来控制北魏政权。他对贺拔岳兄弟的才干，早就有所耳闻，见他们来投奔，喜出望外的说："我得你们兄弟，平定天下就不难了！"贺拔岳在尔朱荣部下先担任别将，很快便升任都督。他参与尔朱荣帐下议事，每每于尔朱荣想法一致，更加受到了尔朱荣的器重。
孝明帝
公元528年，北魏孝明帝和他的母亲胡太后争权，密令在并州的尔朱荣出兵，强迫太后交出权力。尔朱荣与并州刺史元天穆商议如何处置这件事，征求贺拔岳的意见，贺拔岳说："大凡举非常之事，必得有非常之人出。今将军士马精强，位任隆重，若首举义旗，伐叛匡主，何往而不克，何向而不摧？古人所云：朝谋不及夕，言发不俟驾，正是说的这个道理。"尔朱荣听罢感慨的说："你这番话，真是大丈夫之志啊！"就在此时，又传来了胡太后毒死魏孝明帝的消息。尔朱荣马上命令贺拔岳率二千甲兵为先驱，举兵进攻洛阳，杀死胡太后，并将朝中文武百官二千多人几乎全部杀完，并立长乐王元子攸为魏帝及孝庄帝。
