张全义带了100多人上任，景象十分惨淡。他挑了18个人当屯将，在洛阳18个属县的村落中，插上旗帜，张贴榜文，招集流散农民，恢复生产。他规定开头不收租税，对犯法的人，除杀人犯外，其余只略微打几下板子。
人口多起来了，又挑选壮士，练习阵法武艺，保卫地方。几年以后，地方元气逐渐恢复，可以当兵的壮丁，大县约有7000 人，小县也有2000左右。到了这个时候，他才设置县令等官。
他自己常常出外巡视，看见庄稼长得好的，便下马观看，慰问种植的人家。每逢收获的季节，又去访问丰收的农户给以奖励。他每见荒芜的土地，便把主人唤来责打。有人诉说原因在于缺乏人力、畜力，他便责备邻居，叫他们互相帮助。
经过他的努力经营，洛阳18个属县的农业生产完全恢复。这是应该肯定的事情。
但是，张全义兵力单弱，不能自存，他起初和据有河阳的李罕之结盟。李罕之兵强善战，不事生产，靠掳掠过日子。他见张全义有粮有帛，经常向他索取，张全义总是有求必应。
