张居翰发展也不错，深受皇帝信任，因此他也被当成监军来到了节度使刘仁恭的身边，不过他们二人之间的关系却很好，因为张居翰从不瞎指挥，也不参与其他权力，只负责向皇帝汇报近况，甚至当张居翰被调回京时，刘仁恭还上书请求他留下。
903年，权臣朱温把控朝廷，把皇帝当傀儡，并要借皇帝之手除掉那些宦官，众节度使得到命令，纷纷将身边的监军杀掉，刘仁恭为了保住张居翰，用一个死囚代替了。等到朱温称帝，张居翰便投奔了李克用，后来李克用的儿子李存瑁建立后唐，张居翰因为曾经立下大功于是被封为枢密使，但实则他并没有实权，只能处理文案类东西。
