冯玉祥早年归属北洋军阀直系，后在1924年第二次直奉大战期间发动北京政变，所部脱离直系改称国民军，1926年北伐战争爆发后，冯玉祥将军队改组为国民军联军，响应北伐，北伐取得胜利后，西北军人数最多时达四十多万。
阎锡山的晋绥军是民国最早的一支军阀，脱胎于山西新军，历经北洋政府多任领导，晋绥军始终能够左右逢源，并且不断发展，也是北方军阀中的一个异类，到北洋政府倒台后，晋绥军也已经发展到二三十万人，大有走出山西的气势。
中原大战时，冯玉祥与阎锡山联合起来反对老蒋，老蒋在最为危难之时，得到了改旗易帜的东北军的支持，最终在中原大战中取得决定性的胜利，此后东北军掌管黄河以北的事务，大有与老蒋平分天下之势，然而九一八事变后，东北军就失去根据地，彻底沦为二流军阀。
东北军垮台后，到卢沟桥事变之前，北方政权鱼龙混杂，阎锡山继续主政山西，原西北军韩复榘部投靠中央，掌管山东，原西北军宋哲元部（二十九军）取得平津等地盘，原西北军控制下的陕西本土军阀杨虎城部，西北马家军等部都相继独当一面。
总体来说，各大军阀的形成都是此消彼长，不断变化的，不同时期，谁是大小王还不一定。
