契丹只是形式上占领了渤海国，其实并未站稳脚跟。同年三月，原渤海国长岭、安边、莫日领、定理等府纷纷起兵，其中铁州声势最大，辽太祖命耶律德光统帅兵马逐一讨伐。从结果上来看，辽在攻灭渤海国后，渤海遗民并未臣服于辽，他们不断的反抗极大的削弱了辽对渤海故地的控制。
契丹国在形式上占领了渤海国，但是仍存在着渤海国残余势力。仅在926年当年，安边、莫日领、定理、南海、铁州和长岭等地均发生了渤海遗民反叛辽统治的事件，时间最久的长达半年。辽太祖意识到占领一个国家并不是靠突袭首都就可以完成的，为了消除渤海移民的反抗意识，稳定对渤海移民的统治。天显元年(926年)四月，辽太祖在渤海国原有基础上建立了东丹国，并让自己的大儿子也就是当时辽国皇太子耶律倍当上了东丹王，也就是东丹国的统治者。
东丹国作为契丹的附属国，仅在外交上有一定的独立权。在官员任用上，东丹国的最高统治阶层以契丹贵族为主，原渤海国官员只能辅政。天显三年(928年)七月，东丹国仅建立三个月时，辽太祖离世。在辽太祖离世后，契丹统治集团面临着巨大危机，东丹国南迁成为势在必行之事。
