太原、雁门两郡则就像刚才我们说的那样，对应的是山西高原北部的：太原、忻定、雁门三大盆地。在这些内迁乌桓、匈奴人已经连成一片的情况下，曹操撤并河套四郡，将有限的人力集中在匈奴与乌桓之间建制"新兴郡"。为的就是战略上阻断匈奴人与乌桓人之间的联系，以避免出现像河套地区那样羌胡合流的情况。
光这样做曹操仍不放心，尤其是对已经定居于太原盆地的南匈奴人。太原盆地的位置已处于山西高原中部，由此向南可入河东、直指关中。之前南匈奴部就几次这样做，包括两次和白波军合流南下（一次是侵扰河东，一次是救献帝），以及与高干结盟被钟繇阻击于阳平那次；除此之外，由太原盆地还可以借助太行八陉中的井陉，直入河北平原。这条连接山西省会太原，及河北省会石家庄的古道，当年可是赵国连系太行山两侧国土的重要通道。
鉴于太原盆地的重要性，曹操在建安二十一年时，借呼南匈奴单于厨泉入朝朝见之际，将其留在邺城，高官厚禄养着，让他的弟弟去卑回去临国。同时将南匈奴分为五部，各有其帅，史称"五部帅"。这匈奴五部的驻牧之地分别位于今山西省：汾阳、祁县、隰县、忻州市、汶水县等五市县。与汉地之民相邻而居，并安排汉官就近监督。
南匈奴自从董卓乱汉以来，虽一直以太原盆地为依托，屡屡介入中原乱局，但自从上次跟着高干反过之后，算是认清形势铁心跟着曹操。只是防人之心不可无，匈奴人只听调不纳税，人口越来越多。汉地统计人口是以"户"为单位，游牧民族住的是毡帐，统计单位为"落"。五部匈奴加起来有三万余落，自幼骑射的游牧者，出精锐骑兵的比例要远高于汉地之民，便是一落出一骑，亦有三万铁骑。将其分属五部，能够分而治之降低风险。
