不过，杨志的仕途之路最后还是因为丢失生辰纲而戛然而止。这一次，杨志明白自己再无翻身之日，于是畏罪潜逃，最终来到二龙山，与鲁智深一起落草为寇。
尽管杨志行贿求官的行径令人不齿，但他却也的确是一个有本事的人。听说朝廷大赦后，杨志挑着自己的全部财物前往东京，途中经过梁山脚下，恰巧遇上被白衣秀士王伦索要投名状的豹子头林冲。两人在梁山脚下进行了次单挑，双方激战五十多个回合不分胜负。对于杨志的高超武艺，林冲佩服不已。
不过，当时林冲不知道的是，杨志在单挑时使用的朴刀，并非是他最为擅长的兵器。杨志最擅长的兵器是一杆浑铁点钢枪，后来他也是靠着这杆枪与急先锋索超大战了五十多个回合，扬威大名府，从而得到梁中书的重用。
