这时，中原各地的诸侯多数背叛项羽，改投刘邦。刘邦又派王陵沿着汉水，从今天的陕西商洛到河南南阳出兵，一直进攻到项羽的都城彭城。此时项羽正在围攻齐国，彭城空虚，所以汉军攻占了彭城。不久后，项羽从齐地返回，大举反攻，汉军溃败，诸侯又纷纷改投项羽。司马欣就在这时候又偷偷从汉军中跑出来，投奔项羽去了。
刘邦在遭遇彭城失败之后，被迫返回关中，这时章邯仍然在坚守废丘，就是不肯投降。汉二年六月，刘邦引水灌城，才迫使废丘投降，但废丘虽然投降了，章邯并没有投降，却自杀了。
从刘邦出兵的汉元年八月到章邯自杀的汉二年六月，前后十个月，刘邦不但平定关中，而且一度占领彭城，打了一圈仗都回来，章邯还在坚守废丘。这在当时诸侯朝秦暮楚的局势下，算是非常难能可贵了。
以废丘一城坚守十个月，抵抗汉军，也可以说明，章邯与司马欣和董翳不同，在之前对形势有比较清晰的分析和预判，所以提前做了比较充足的准备。至于最后势穷力竭，城中百姓和军队为了求生而决定向刘邦投降，这也并不奇怪。但他在城破之后拒绝再次投降，选择了自杀，也说明他对之前间接害死二十万秦人子弟是有所反思乃至心怀愧疚的。
三国后期蜀汉被邓艾包围成都时，刘禅的儿子北地王刘谌在劝刘禅不要投降的时候曾说："若理穷力屈，祸败必及，便当父子君臣背城一战，同死社稷，以见先帝可也。"刘禅没有做到，但是章邯算是做到了。
