据正史记载，麴义生于凉州西平郡，年轻时便善骑射、喜战斗，在长期同羌人作战的过程中，逐渐学会他们剽悍强劲的风格，所部私兵也尽是以一敌百的精锐。韩馥出任冀州牧后将麴义召为部将，但并未加以重用，由此导致两人的决裂。初平二年（191年），麴义举兵反叛韩馥，并与渤海太守袁绍结盟，帮助后者成功地袭取冀州，由此加入袁绍的阵营。
麴义骁勇善战，部下都是以一敌百的勇士
麴义因为骁勇善战，在袁绍的手下备受重用，效力伊始，便奉命攻击以强悍著称的南匈奴单于於夫罗，将其打得大败亏输，并因此一战成名（"袁绍至河内，杨与绍合，复与匈奴单于於夫罗屯漳水。单于欲叛，绍、杨不从。单于执杨与俱去，绍使将麴义追击于邺南，破之。"见《三国志》）。
大败於夫罗不过是麴义的"小试牛刀"，他真正的"高光时刻"出现在界桥之战中。就在麴义归顺袁绍的当年冬天，割据幽州的大军阀公孙瓒，以替弟弟公孙越复仇的名义（公孙越被袁绍的部将周昂射杀），率重兵南下与袁绍争夺冀州，在界桥（故址在今河北威县境内）一带展开厮杀。
