公元304年，张方因救援成都王司马颖再次进入洛阳，这一年，他再次大肆劫掠洛阳百姓，并将晋惠帝司马衷的皇后羊献容废掉。不久，张方移镇长安，早已名存实亡的晋惠帝司马衷也被逼迁往长安。张方两度入驻洛阳，给中原的百姓带来了沉重的灾难，不久，西晋北方各地相继爆发农民起义，少数民族也趁机入驻中原。
张方以屠杀百姓恶贯满盈，东海王司马越作为东晋王室，他不能容忍张方的所作所为。为了兴复晋室江山，司马越打着以消灭河间王司马颙的旗帜起兵了，因为司马越名正言顺，河间兵马遂屡战屡败。河间王司马颙恐惧，只好遣使求和。不过，在此之际，张方则极力反对议和，司马颙知道张方恶贯满盈，遂秘密派人将其刺杀。可能张方最后临死之际，都不会知道司马颙为什么会除掉自己。
张方是开启十六国时期杀戮的第一人，但却不是最后一个。后来的汉赵、后赵都曾大量的屠杀中原百姓。不过，这样的恶习，皆是因张方这个汉人而起，此人之死，可以说是罪有应得。
