1937年全面抗战爆发时，红军主力改编为八路军，虽然下辖了3个步兵师，每个师也均编有炮兵营。但各师的炮兵营都只是虚名，其实际都还是步兵。当时八路军真正的炮兵仅有1个山炮连，以及几个迫击炮连。
八路军进入华北时，正值国军部队连连败退之际。晋绥军一部在溃败时将10多门野炮、山炮推进了滹沱河中。八路军将这些火炮捞出来，除将野炮送还给阎锡山外，留下了其余的山炮并跟自己原先的山炮连合编为了八路军总部炮兵团，这是我军当时唯一的"重炮"部队。
而在抗战中，除了这个炮兵团之外，各大战略区也陆续组建了自己的炮兵部队，其中既有山炮、也有步兵炮，甚至还有少量野炮。
这些火炮从何而来呢？自然不是日军白送的，而要经历一次次血战才能缴获。其中缴获的途径主要有这么几种方式：
第一种是打下日伪军据点后，缴获在据点内的火炮；第二种是在日伪军"扫荡"中，歼灭或打击日军带炮的分队后，缴获火炮；第三种是袭击日军军列，有时候也会缴获火炮。
