而刘琨此刻面临的挑战还不仅仅是恢复并州的元气这一目标，并州本身四通八达的便利交通在乱世间简直成了催命符，在八王之乱中被放出潘多拉魔盒的匈奴屠各部首领刘渊已经建立了汉国，跟一般的异民族领袖有着根本性的不同，刘渊的政治头脑非常灵活且清醒，为了对抗西晋王朝的压制，他果断的利用了匈奴贵族常年跟两汉帝国通婚和亲的历史事实，对外诈称自己跟刘汉皇族有甥舅之亲，并且约为兄弟，因而有合法的继承权。
很明显大汉帝国的余威要比建国连五十年都不到的西晋有影响力的多，加上匈奴人确实具有相当强的战斗力，匈奴汉国已经成了气候，短时间内难以对抗。而除了匈奴以外，逐渐崛起的鲜卑段部也是心腹大患，尤其是当幽州此时王浚跟段部的首领结为兄弟后，相互勾结，对并州这片广大的土地可谓虎视眈眈，刘琨的处境，实在是不妙，可以说一上场就开始了困难模式。
不过方法总比困难多，尤其是对于刘琨这种有想法，有能力还有水平的人来说更是如此。在前往并州的路上，刘琨便派人提前探知了并州当下的状态，同时不断利用正统的旗号招抚流民，把他们按照学院或者亲疏关系编成以组为单位的小队，而在来到并州之后更进一步完善了招抚的措施。
紧接着合理分配劳动，利用流民对故土的眷恋之情训练他们耕战合一的生活。可想而知，此时此刻的刘琨每一天所经历的是怎样的日子，史书记载，整个晋阳的百姓连平时出门下地，都要随身携带武器，白天耕作，夜晚修复城墙，跟后来刘琨在给祖逖的书信中所写的别无二致，的确是枕戈待旦的生活。
