一次白齐文和清军一起押运军饷，路途中和清军发生了矛盾，白齐文一气之下拿着枪口子就对准了清军，还把价值数万两的军饷给抢走了。这么多钱清朝当然不会放任不管，于是派官员去查，一查便把白齐文查了出来，李鸿章一怒之下撤了他的职务，决定从此不再用他。
洋枪队投靠谭绍光 替太平军打清军
白齐文仗着自己是外国人，李鸿章不敢拿他怎么样，被辞退之后依旧厚着脸皮向李鸿章求情，还动用人脉找有地位的美国人帮他求情，多次表示会服从管理，李鸿章早就看他不顺眼了，所以根本不在打理他的。白齐文试探了好几次没有结果，但是还要继续在中国捞钱，于是转身就投奔了太平军。
白齐文带着仅存的几十个零零散散的洋枪队来到了太平军苏州守将谭绍光的地盘。希望在太平天国能够得到重用。当时的太平军已经见识过洋枪队的厉害，所以不计前嫌收留了洋枪队。谭绍光和白齐文交流一番后，准备调出两千太平军接受白齐文带领的洋枪队的训练，但是此时的洋枪队人数和能力都有限，所以仅帮太平军训练了一千军队。
