北洋大臣最初是由直隶总督李鸿章担任，李鸿章在直隶经营多年，各类洋务、海军等无不打上"北洋"痕迹。后来甲午战争战败，李鸿章开缺，荣禄接任北洋，用袁世凯在小站练新式陆军，称北洋新军。袁世凯继荣禄任直隶总督兼北洋大臣，大力启用北洋新军相关人员，诸如冯国璋、段祺瑞、徐世昌、张勋、赵秉钧等。
民国建立后，袁世凯任大总统，遂在军政两界大力启用原北洋系相关人员。袁世凯死后，这些人各自为政，互相攻伐，自成军阀，遂统称为北洋军阀，主要由冯国璋的直系、段祺瑞的皖系、张作霖的奉系及其后继者组成。其余地方军阀也多为清末各省立宪派和新军将领转化而来，但一般不被归入北洋军阀行列。
第一次国民革命期间，南方革命军就以北洋军阀为主要革命对象。南京国民政府建立之后，除奉系军阀退回东北外，北洋军阀基本上彻底退出了历史舞台。
