湘军从山海关出师后，魏光焘武威军6营驻扎三台子，徐邦道拱卫军11营驻扎柳公屯，李光久老湘军5营驻扎中阳堡，刘树元统亲军6营驻四台子、榆树堡、大堡垒。扎下大营后，各路将领商议于3月3日进攻海城，收复失地。此时，探子来报："贼马队七十、步队数千，绕出耿庄子、古城子而去，恐袭牛庄也"，说日军已经分兵进攻牛庄，大伙十分震惊。要知道，这几路大军的粮草、弹药等补给物资全部存放牛庄，而且朝廷后继补物资也必须在牛庄转运方能到达前线将士手中。此外，当时牛庄仅仅驻有武威军1营，人员不足五百，且没有修建必要之防御工事。为此，魏光焘立刻率领所部6营，星夜兼程赶往牛庄设防，先修建土制城墙一座，挖掘战壕，在街道民房墙壁上挖掘枪眼。由此可知，魏光焘料定接下来必定会有一场恶仗，并为之做好准备。
3月3日，日军各路兵马集结牛庄，总计11800人，火炮59门；湘军魏光焘等前期参战兵力3300人，后李光久率老湘营赶到，总计5700人，先进火炮不足10门。双方兵力之悬殊，由此可见一斑。日本抵达牛庄后，立刻兵分四路进攻湘军，在炮火掩护下，日军匍匐前进，猛冲湘军营垒。此时，魏光焘下令用火炮还击，待敌人冲进视距内时，再利用枪支歼灭来犯之敌，尽可能杀伤日军有生力量，阻滞日军进攻步伐，等待增援部队到来。牛庄周围一片平原，毫无掩体，日军伤亡惨重，横尸遍野。为此，日军主帅下令，兵士要唱军歌而进，拿出不怕死的武士道精神，以人数优势冲垮湘军阵营，结果依然毫无作用。
湘军虽然作战勇猛，怎奈兵力过于悬殊，又缺乏必要的重型火炮，最终让日军杀进牛庄，双方开始进行激烈巷战，争夺每一条街道，每一幢民房。在混战中清军退路被切断，失去了统一指挥，被兵力占优的日军分割成几十个战斗单元，多则几百人，少则几十人，各自为战，分散抵抗。为了对付分散的湘军，日军也分成几十战斗单位，以数百人、数十人为一队，与湘军混战一块，并让工兵逐屋穿墙破进。时人记载："城内到处发生激烈的巷战，……各队相互错综，战况复杂"。在激烈的战斗中，魏光焘坐骑被击毙，连续换下三匹战马，但依然顽强阻击冲入牛庄之日军，湘军也为此付出惨痛代价。激战至4日下午，李光久率老湘军6营从海城前线赶到牛庄，立即投入战斗，想方设法将魏光焘部救出。晚上22时许，魏光焘、李光久率部血战至"子弹俱尽"，方放弃固守的牛庄衙门，分散从牛庄撤出。湘军撤出后，日军随即展开追击，试图全歼这支清军，但受到李光久部伏击，方才退去。
经过近两天的战斗，牛庄之战终于落下帷幕。此战，湘军以寡击众，与几倍于己之敌人进行激烈厮杀，致使日军付出上千人伤亡之代价才勉强占领牛庄。湘军虽然惨败，但其不畏强敌，敢于战斗之勇气着实可嘉。日本人对此评论到："其能久与日军交锋者为武威军，奋死决战，力守至一昼夜，实清军中所罕睹也。"遗憾的是，当部将要求刘坤一再战时，他居然拒绝了，文廷式失望地说："刘坤一驻山海关，一日伪言倭兵至，坤一惧而三徙，其怯谬如此。举国望湘军若岁，至是乃知其不足恃"。
