马家军在民国虽然沦落为地方军阀的杂牌军，其实他们祖上却出自名门。清朝同治年间，西北爆发了大规模的农民起义。河州的回民领袖马占鳌适时地倒向朝廷，进而产生了日后的马家军。
马家军脱胎自于老湘军和董福祥的甘军。太平军和捻军相继被剿灭后，刘松山率老湘军随左宗棠进陕甘平乱。汉人义军领袖董福祥兵败投降刘松山，其被编为"董字三营"，后来又吸纳了回民的马占鳌部。
左宗棠在收复新疆时，深感湘军皆为南人，不习北方战事，于是便用湘军的军制改造了董部。平定新疆之乱后，董部逐渐脱离湘军，自成一派。
这个时期的甘军及其麾下的马家军绝对算得上兵强马壮，所以被编入清廷武卫军，成为入国家经制军，接受户部拨饷。然而武卫军只是清军从团练到新军的过渡性产物，很快退出历史舞台。
