公元523年，怀荒镇守边士兵杀死镇将于景，接着沃野镇破六韩拔陵聚众起事，杀死镇将，据境称王，改年号为真王，发出了反对北魏的号召。各镇军民纷纷响应，很快就全部占领了六镇。破六韩拔陵派别帅卫可孤攻打怀朔镇的时候，贺拔岳和其兄贺拔胜正跟随着父亲贺拔度拔守卫怀朔镇，怀朔镇被起义军占领后，贺拔父子与宇文肱（北周文帝宇文泰之父）合谋，杀死了卫可孤。后来贺拔度拔战死后，贺拔岳与兄贺拔胜奔至五原（今内蒙古自治区五原县），投入北魏主帅广阳王元渊（元姓，为北魏孝文帝拓跋宏迁都洛阳后，改皇族拓跋为元）麾下，元渊以贺拔岳为帐内统领，又表为强弩将军。
后来，贺拔岳与其兄贺拔胜一起镇守恒州（今山西大同市）。恒州被起义军攻破后，兄弟二人又投奔了都督恒、朔二州军事的北魏安北将军尔朱荣，尔朱荣在镇压六镇起义的过程中，收编了各镇被起义军打散的官军和豪杰以及部落首领，扩张了势力，成为了一个有实力的军阀，一心想凭借实力来控制北魏政权。他对贺拔岳兄弟的才干，早就有所耳闻，见他们来投奔，喜出望外的说："我得你们兄弟，平定天下就不难了！"贺拔岳在尔朱荣部下先担任别将，很快便升任都督。他参与尔朱荣帐下议事，每每于尔朱荣想法一致，更加受到了尔朱荣的器重。
公元528年，北魏孝明帝和他的母亲胡太后争权，密令在并州的尔朱荣出兵，强迫太后交出权力。尔朱荣与并州刺史元天穆商议如何处置这件事，征求贺拔岳的意见，贺拔岳说："大凡举非常之事，必得有非常之人出。今将军士马精强，位任隆重，若首举义旗，伐叛匡主，何往而不克，何向而不摧？古人所云：朝谋不及夕，言发不俟驾，正是说的这个道理。"尔朱荣听罢感慨的说："你这番话，真是大丈夫之志啊！"就在此时，又传来了胡太后毒死魏孝明帝的消息。尔朱荣马上命令贺拔岳率二千甲兵为先驱，举兵进攻洛阳，杀死胡太后，并将朝中文武百官二千多人几乎全部杀完，并立长乐王元子攸为魏帝及孝庄帝。
