接下来是北方的渔阳太守彭宠，此人原为刘秀部下，后反叛，自立为燕王，占据着蓟城、右北平的上谷等县，北边联络匈奴，南边联络张步，势力范围不断扩大。刘秀决定亲自征讨，后经劝说，改为派朱祐、耿龛等率兵北进，于公元29年平息了彭宠的叛乱，北方局势安定下来。
接着，各个大大小小的"皇帝"们也相继被灭，只剩下"三大势力"--蜀中皇帝公孙述、五郡大将军窦融、西州大将军隗嚣，他们与刘秀势均力敌，有平分天下之势。
公孙述占据益州(今四川、贵州、云南等)，资源丰富，地势险恶；加上他经营多年，势力最为强大。为了孤立公孙述，光武帝决定拉拢窦融、隗嚣。他先派人去联络隗嚣，可隗嚣早有打算，他想自己做皇帝，不仅没有听从刘秀的建议，而且还派人去跟窦融联络，劝他也自立为王，他们还同公孙述联合起来，共同对付刘秀。刘秀得知后，立即派人给窦融送了一封信，信中说："将军日前的地位举足轻重，有人主张分割天下，像战国时期那样，各自为王。要知道，汉朝的土地即使可以分的话，汉朝的老百姓也是不能分的。将军如果能从大局出发，上为国家出力，下为百姓着想，我将非常感激!"这封情真意切的信打动了窦融，不久，窦融率部投降，刘秀随即派兵征伐隗嚣。隗嚣大败，于公元31年春病饿而死。汉军乘机收复了陇右(今甘肃六盘山以西)地区。
收复陇右地区以后，刘秀集中优势兵力，全力与蜀中皇帝公孙述死磕。刘秀本人亲自带兵征讨，大将军岑彭指挥军队，连连击败公孙述的军队，夺下不少城池，公孙述很快处于孤立无援的境地。刘秀又命广平侯吴汉进攻成都，结果公孙述惨败，受重伤而死，蜀中势力被消灭。
此时的刘秀已经四十三岁，从二十八岁起兵，经历十五年戎马征战，终于结束了自新朝政权被灭后豪强割据的局面，使汉朝再一次走向了统一。
