公元89年，朝廷任命外戚窦宪为车骑将军，以执金吾耿秉为副，发北军五校﹑黎阳﹑雍营﹑缘边十二郡骑士，及羌胡兵出塞。班固被窦宪任为中护军，参与军中谋议。
窦宪与耿秉率三路汉军在稽落山大破北匈奴，一直追击到乌布苏诺尔湖。此役，共斩杀名王以下将士一万三千多人，俘获马、牛、羊、驼百余万头，来降者八十一部，前后二十多万人。窦宪、耿秉登燕然山（今蒙古境内杭爱山），刻石勒功。班固作《封燕然山铭》，其辞曰："铄王师兮征荒裔，剿凶虐兮截海外，夐其邈兮亘地界，封神丘兮建隆嵑，熙帝载兮振万世"。
燕然山之战后不久，北匈奴被迫西迁退出了中国舞台，燕然山成为中原王朝对游牧民族战争胜利的一个重要的标志。
班氏家族写《汉书》名扬天下，班彪的小儿子班超（32年-102年）却不愿意继承他爹和哥哥的事业，去写史书。他扔了毛笔，叹息说"大丈夫无他志，犹当效傅介子、张骞立功异域，以取封侯，安能久事笔砚间乎？"，留下了投笔从戎典故。
