他奉命讨伐梁山泊之前乃是汝宁郡都统制，职务和秦明相似，也是地方军政的负责人。其实说高俅是小人，书生还是赞许的；但若说他是愚蠢的人，却并不对。高俅还是很有眼光的，呼延灼是当时为数不多给宋江带来麻烦的官军。
他率领三千马军、五千步军，又选了铁甲三千副、熟皮马甲五千副、铜铁头盔三千顶、长枪两千根、滚刀一千把、弓箭不计其数、火炮铁炮五百余架，底下又有先锋韩滔和彭玘，可以说是兵强马壮。
呼延灼初次和宋江大军对战，虽然被擒拿了彭玘，却没有大碍。第二天就摆下三面连环马军阵，两边尽射弓箭，中间尽是长枪，横冲直撞，杀得宋江落荒而逃。待战后清点，杀死者不计其数，生擒的五百多人，战马夺得三百多匹，可以说给高太尉的脸面挣得不少光。
取得一次大胜之后，呼延灼又央请高太尉将国内第一炮手凌振请来，就在水边竖起炮架，轰打梁山泊营寨。这炮石还有三种，第一是风火炮，第二是金轮炮，第三是子母炮。若非吴用使计擒拿了凌振，宋江的战损将更加巨大。
