来到青州后，慕容知府请呼延灼助其将二龙山、桃花山、白虎山的贼寇剿尽，方肯替其向朝廷保奏免罪。呼延灼于几场战役中大败周通、李忠、孔明等人，又与鲁智深、杨志交手，不分胜负，双方僵持不下。后来孔亮到梁山请宋江引军来援，吴用设计引呼延灼落入陷坑中活捉，在宋江的苦苦劝导下，呼延灼决心帮助宋江实现招安，变相完成剿灭梁山的任务。于是正式归顺梁山，重获踢雪乌骓 ，随后献计攻破青州。
呼延灼加入梁山后，位列天罡星第八位，上应"天威星"，为梁山第八把交椅，被封为"马军五虎将"之第四位。梁山受招安后，随宋江征讨辽国、王庆、田虎、方腊，战功卓著。平南归京为少数幸存将领之一，被授御营兵马指挥使，每日随驾操练。也就是成为了皇帝行营守卫首领，他也是梁山好汉中唯一被朝廷重用的人。直到靖康之乱，呼延灼老当益壮，领大军破金国四皇子金兀术，出军杀至淮西，战死在抗金战场上。
呼延灼可以说是梁山好汉中真正从朝廷中来复归朝廷中去的将领，虽然中间无奈落草梁山，但秉承着被招安重归朝廷的夙愿，他成功实现了效忠皇帝为大宋战死沙场的心愿，没有辱没名将之后的名声，这是其他名门之后的梁山好汉所没能做到的。
