等到后来，孔彦舟觉得土匪日子不好过，所以选择投身行伍，并且一路升到京东西路兵马钤辖，如此看来，当兵的生活还是挺适合他的。
不过，孔彦舟性情自私残暴，既贪婪又多疑，经常鱼肉老百姓。在孔彦舟生活的地方，百姓的生活过得非常不如意，特别是孔彦舟对于他们的压迫，让孔彦舟没有一个好的名声。然而，虽然当地百姓痛恨孔彦舟，但是没有人敢大声说出来。或许，这就是我们常说的敢怒而不敢言。
据说，当时金军攻打山东时，孔彦舟一看大事不妙，很有打不过的可能，所以就迅速带着手下的兵跑了。与此同时，孔彦舟不仅把百姓留给金人，而他自己也一路南下，对老百姓烧杀抢掠。可以说，当时孔彦舟的所作所为与土匪一样。但是南宋朝廷对于孔彦舟等人的所作所为就像没有看到一样。
随后，朝廷对孔彦舟为首的不受管束的军人未置一词，反而又对他们进行诏安，并且派遣他们去镇压钟相起义。相传，当时的孔彦舟镇压同胞干的非常残暴，凡是他捉住的起义军，都一律断手割指，并要在头上插侮辱性的标语。
