九四式山炮服役后马上受到了部队的热烈欢迎，因此日军高层也重视该炮的生产，迅速调拨资金扩充生产设备，使得其在抗战爆发前换装了几个主要的炮兵联队。
（九四式山炮，该炮主要装备于日军独立山炮兵联队和部分精锐师团）
1937年7月，全面抗战爆发，九四式山炮也随之进入中国战场，虽然在正面战场上取得了一些战果，但是在敌后战场上却遭到了空前的打击，神出鬼没的中国军队开战多样化的游击作战，使得日军无法发挥九四式山炮的性能优势，结果导致该型山炮时常被中国军队缴获。如在1937年11月7日的山西昔阳县广阳战斗中，第129师一次便缴获了数门九四式山炮。而缴获来的山炮也被敌后战场的中国军队妥善利用，成为了对付日军炮楼的“大杀器”。
（在敌后战场使用九四式山炮的中国军队）
新中国成立后，由于当时苏援尚未达到，因此中国决定仿造九四式山炮，由南京的华东军械总厂生产，称之为仿九四式山炮。在朝战爆发后，这种当时国内唯一能生产的山炮地位大增，兵工厂源源不断的生产山炮供应前线，前线的中国山炮兵们得以更换老旧的山炮，换上了崭新的国产武器，并最终用一颗颗炮弹把不可一世的美军逼到了谈判桌上。
