但是，还没等他下达撤退命令，一颗迫击炮弹准确地落在院子里，阿部规秀的腹部以及双腿中弹，他的参谋人员也全部负伤。原来，八路军第一军分区一团团长陈正湘，在望远镜里看见一群穿黄呢大衣的日军军官正站在一处农家院里，立即把目标指示给炮兵连连长杨九坪，杨九坪指挥迫击炮连发数弹，陈正湘团长再拿望远镜看去时，穿黄呢大衣的日军军官已全都倒地。
失去了指挥机关的日军发生严重混乱，不得不收缩部队据守黄土岭抵抗待援。傍晚，绿川纯治率领的第三大队赶到了。坚持了一天后，森田春次的第五大队也赶到了。
同时，日军第一一〇师团的两个支队、第二十六师团的一个支队正分路向黄土岭靠拢合围。于是，聂荣臻下令八路军撤出战场。是役，日军伤亡千余人，八路军伤亡八百余人。全身多处负伤的阿部规秀没有当场死掉，他的生命一直苟延到那天午夜十一时五十分。
