对于神机营确切的成立时间，史学界尚为取得一致意见，主要有1422年设立和1426年设立两种说法，但是笔者认为神机营的建立并非起于具体某年，而是一个长期发展演化的过程。早在1410年明成祖朱棣第一次北征时就已经有明军集中使用火器部队的记载，并取得取得了显著战果，这些集中使用的火器部队就可以被看做是神机营的前身。经过五次北征，火器部队在战争中的价值体现的愈发明显，在北征结束后，成建制的火器部队成为定制，即京师三大营之一的神机营。
明朝的战争形态，战争模式和之前的历朝历代相比，有了非常巨大的变化，其中的火器的应用是起到了核心的地位。如果说中国的火器在战场上面的应用，宋朝是萌芽阶段的话，那么明朝就是大发展的时代，而出现这种形势则是与朱元璋的发展历程息息相关的。朱元璋在长江附近起家，在他发展之初，就有一个叫焦玉的人献上他所研制的火器，于是朱元璋的队伍成为了江南起义军当中可以说是唯一的火器成为制式装备的起义军。江南水网纵横，再加上刘福通的北伐，蒙古人引以为傲的骑兵队伍发挥不了应有的威力，于是拥有火器的朱元璋很快就尝到了甜头，在与陈友谅的一系列战斗当中，火器起到了极其重要的作用。在南昌攻防战当中，陈友谅挥军60万围攻南昌，结果南昌的朱军在火铳的帮助下使陈友谅久攻不下。而其后的鄱阳湖大战朱元璋的军队更是发挥了火器的威力，使用了当时中国最先进的''火炮、火铣、火箭、火蒺藜、大小火枪、大小将军筒、大小铁炮、神机箭''等火器，开创了在水战中以''舰炮''轰击敌舰的先例。火器成为了明军的制式兵器之一，通常明军的构成为''铣十，刀牌二十，弓箭三十，枪四十''，火器的比例占到了10%。
明朝的神机营相当于清朝的火器营。清朝末期组建的一支装备洋枪洋炮的精锐部队也称''神机营''，兵丁来自骁骑、前锋、健锐、步军、火器等军营，下辖马、步队25营，官兵14000多人。
十六世纪中期以前神机营的编制:
