再说这李克用本身也是个惜才之人，看到张居翰表现的如此出类拔萃，便和刘仁恭商量想把他留在自己手下做事，刘仁恭想，既然他是戴罪之身，也不妨让他在李克用手下戴罪立功，于是也就同意了，张居翰也没有辜负李克用的厚望，把一切打理的井井有条，除了训练士兵，每年的春天还让士兵去帮助百姓务农耕种，因此也很受百姓的爱戴。
随后李思安率领十万大军围攻潞州，想从李克用手中把失地夺回来，于是李思安广屯粮，高筑墙，做好了打持久战的准备，接着把潞州围了个水泄不通。
张居翰身先士卒登上了城墙站在了指挥的第一线，期间朱温也多次给他写了密信，表示如果他可以投降，可以许以他数不尽的荣华富贵，张居翰丝毫不为所动，当即烧毁了密信并斩杀了来使。
时间一天一天过去了，随着守城时间越来越长，称重百姓难免躁动不安，这时候张居翰靠着自己的悉心经营加上多方的运筹才稳定下了民心，由于李克用的严防死守，李思安即使在数量上有大优势可也是对潞州构不成实质性的威胁。
