牛皋是《说岳全传》中的灵魂人物之一，事迹贯穿整部小说。他的形象特点极为突出，既有蜀汉五虎将张飞的外貌和鲁莽，又有梁山黑旋风李逵的憨直与幽默，可谓是两个经典人物的结合体。在该书中，牛皋首次出场是在第六回。他按照父亲的临终遗言，带着母亲前往内黄县拜同乡周侗为师。为了带点像样的见面礼，牛皋在离麒麟村不远的乱草冈下做起了强盗，打劫过往行人。
此时的牛皋不过十二、三岁，但却身躯长大，面色漆黑，身穿镔铁锁子连环甲，头戴镔铁盔，胯下一匹乌雅马，手提一对四楞镔铁锏，甚是威风。后来，牛皋与岳飞等人遭遇，三拳两脚便被岳飞打倒在地。牛皋觉得输了没有面子，当场就要拔剑自刎，幸好被岳飞及时拦下。得知众人的情况后，牛皋与岳飞等人结拜为异姓兄弟，并带着母亲在麒麟村安家落户。从此，牛皋在岳飞的指点下研文习武。
此后，牛皋跟随岳飞等人前往京师参加状元比武，曾在小校场与杨再兴、罗延庆两位猛将进行过一番较量。牛皋武艺平平，杨、罗二人不想伤及性命，只是舞动长枪戏弄牛皋，牛皋口吐白沫，异常狼狈，幸得岳飞及时挺身而出，才化解了这场尴尬。随后，在驼牟冈之战中，牛皋勇闯贼兵大营，击杀贼将田奇，与众兄弟合力救出宗留守。不过，尽管牛皋在此战中立下战功，却并未受到朝廷的嘉奖。
