当时晋绥军采用"三三制"编制，1个军下辖3个师，1个师下辖3个团，1个团下辖3个营，1个营下辖3个步兵连和1个机炮连，每个步兵连121人、机炮连93人，加上营部共计每个营近500人；3个步兵营加上团部，1个步兵团共计1500余人；3个步兵团加上师部，1个步兵师共计5000人；3个步兵师加上军部，每个军有1.5万余人。
因为阎锡山将炮兵、工兵、辎重、骑兵都单独成军，所以晋绥军的步兵单位比较纯粹，故而不像其他军队在步兵师中还有一些技术兵种，人数上比人家也就偏少些。
中原大战失败后，南京方面只给了晋绥军32军、33军、34军、35军的番号，随后32军军长商震带2个旅出走，又把32军的番号也带走了。
晋绥军经后续整编后，搞出了3个军（辖7个师20个旅）42个团的正规军，此外还有护路军3个旅6个团，3个独立旅6个团，炮兵10个团，骑兵2个旅，外加部分独立工兵、辎重部队。
