日军在晋军中颇受重用，他们也算得上卖力，比如，《晋系军阀全传》中写道，晋军专门有一个“碉堡建设局”，留用了日本军事技术人员200余人，作为各碉堡区构筑钢筋水泥工事的技术指导，他们此后为阎设计了对付解放军的“没奈何碉”，这种碉堡全部用钢筋水泥筑成，在其枪眼孔内安设了一个水泥球体，中心留有枪眼，可以随意旋转，射击时将枪眼转向正面，停射时将枪眼转到侧面，外面枪弹射不进去。确实很有日本风格。
这支“蚂蚁部队”多次与解放军交战，他们的战斗力确实高过晋军，但在解放军面前，表现如何?
1948年6月，解放军发动晋中战役，先在平遥歼灭了阎锡山的精锐“亲训师”，这是他的王牌军，由日本军官担任顾问和教官。但被解放军用3个小时全部消灭，共歼敌7000人，其中打死近3000人，俘虏中还发现几个日本人。阎锡山又急又气又心疼，急令野战军总司令赵承绶和副总司令原泉福(日本人，原为日军驻长治的中将旅团长)赴祁县统一指挥作战。除当时已在各地驻守的三十四、三十三军及暂编第九总队等部队外，随同的机动部队，派出了他的“奇兵”暂编第十总队，大部为原泉福旧部，总队长为日本人晋树德，用来保卫野战军司令部。
《徐向前传》记载说：其他同志担心敌人占有优势，但徐向前却高兴地说：“来了才好!日寇战犯原泉福一贯骄傲自大，赵承绶昏聩无能，做不了原泉福的主，我们正可利用敌人指挥官的这些弱点，加上自己的努力，寻找机会把它吃掉!”
投降的日军。（来源：网络）
这一仗，果然如徐向前预料，赵承绶想从小路和田埂撤回太原时，原泉福极力反对，骂阎锡山胆小鬼，叫他不要怕，把部队集中起来“同共军决一死战”。赵承绶无法，只好听原泉福的摆布，没有集中兵力突围，反而分兵三路向解放军进攻，企图“一决雌雄”，这就为解放军部队赶上巩固包围圈赢得了时间。此役结束，解放军歼敌10万余人，生擒赵承绶，解放晋中全部土地，当时阎锡山部队完全崩溃。
史载：解放军追击中，几个战士追击着上百的敌兵，敌兵只知道拖着枪跑，顾不上停下来还击，直至累倒在地，乖乖缴枪投降；人民群众也纷纷跑出来抓俘虏，清源县有个老农，拿着扁担，一下缴了十几个敌人的枪；三位新华社前线记者，俘敌37名，还缴了两门炮，两挺机枪，10多支步枪。
“蚂蚁部队”也遭受重创，《徐向前传》记录了珍贵的细节：
“原泉福带着几个随从，刚从西范村狼狈溃逃到小常，被解放军一发迫击炮弹击成重伤。他死前对总部的参谋处长哀叹：‘没想到徐向前的厉害，十总全完了!’……成百个日本军官都扔下指挥刀和望远镜，低垂着脑袋高举双手。在一间满是日本兵的大屋里，为首的日军官，拦住冲进去的战士问道：‘你的太君的徐向前?’这位战士大声说：‘是的!’日军官转头一声呼叫，满屋敌人立即乖乖投降。”
徐向前（来源：网络）
晋中战役后，解放军围攻太原，这是解放战争时期最为惨烈的一次攻城战。太原外围的牛驼寨争夺战，又是太原战役中最惨烈的恶战之一。
解放军一轮猛攻，占领了牛驼寨，阎锡山急令日军反攻。经晋中战役，日军还剩1100余人，他们在大炮和飞机的掩护下拼死反扑，几轮进攻被粉碎后，人员伤亡惨重。
指挥官今村方策(化名晋树德)做出了一个丧心病狂的决定——使用毒气弹。接下来的两天里，日军持续用大炮向牛驼寨发射“联二苯”毒气弹，解放军战斗减员严重，仍顽强坚守阵地，后为保存有生力量，主动撤出牛驼寨。经休整后，又以雷霆万钧之势重新反击，再次拿下牛驼寨。
牛驼寨之战，日军被打死700余人，剩下500人撤回太原城，只能拼凑成一支炮兵部队，他们仍叫嚣着要“为阎长官死斗到底”，但阎锡山已乘飞机跑掉了，太原城破在即。
