1123年，率辽军进攻奉圣州，驻军于龙门山东二十五里处。金朝都统完颜斡鲁派完颜照立、完颜娄室、马和尚等率军攻打，耶律大石战败被完颜娄室俘虏，所部投降。金朝的将领逼迫耶律大石带路袭击辽军的大营，耶律大石被迫无奈之下，带金军找到了辽军的大营，金军乘势进攻，捉到了不少的辽朝贵族。1123年秋九月，耶律大石随金朝西征，带领家眷自金营逃出，率领一支部队投奔天祚帝 [ 。
1123年，耶律大石率军袭击金朝军队，战败被俘。
1124年，耶律大石逃归，并带回一支军队。天祚帝得到这支军队，又得到阴山室韦谟葛失的支持，自谓天助，再谋出兵，收复燕云。大石认为不可，说："向以全师不谋战备，使举国汉地皆为金有，国势至此，而方求战，非计也。当养兵待时而动，不可轻举。"但是天祚帝不能采纳，坚持出兵 。耶律大石知其不可能成就恢复大业，便杀掉悻臣萧乙薛和坡里括，自立为王，设置北南面官属，率铁骑二百，夜间离开天祚帝大营， [13] 投奔中亚的喀喇汗王朝。据《辽史》载，耶律大石在西迁过程中，曾给高昌回鹘君主写信："是与尔国非一日之好也。今我将西至大食，假道尔国，其勿致疑"，这里的大食即喀喇汗王朝。他走后，天祚帝出兵，先取得了一些小胜利，但很快被金军打败。最终天祚帝被金朝俘虏，辽朝灭亡了。
耶律大石率军从夹山出发，北行三日渡过黑水（爱毕哈河），途中遇到白鞑靼人首领床古儿，床古儿给予耶律大石四百匹马，二十头骆驼，若干只羊的援助。 [15] 耶律大石一路向西北，于1124年到达辽朝北疆重镇--西北路招讨司驻地可敦城，召集威武、崇德、会蕃、新、大林、紫河、驼等七个军州的长官和大黄室韦、敌剌、王纪剌、茶赤剌、也喜、鼻古德、尼剌、达剌乖、达密里、密儿纪、合主、乌古里、阻卜、普速完、唐古、忽母思、奚的、纠而毕十八个部族的首领举行大会。在大会上，耶律大石慷慨激昂的指出先祖创建辽朝的艰难以及由于金朝对于辽朝侵略，造成天祚帝流亡在外、生灵涂炭，号召各军州和部族驱逐仇敌，复兴大辽。耶律大石慷慨陈词："我祖宗艰难创业，历世九主，历年二百。金以臣属，逼我国家，残我黎庶，屠剪我州邑，使我天祚皇帝蒙尘于外，日夜痛心疾首。我今仗义而西，欲借力诸番，剪我仇敌，复我疆宇。惟尔众亦有轸我国家，忧我社稷，思共救君父，济生民于难者乎？''耶律大石安置官吏，整顿兵马，磨砺武器，得到精兵万余人。由于可敦城是辽朝的西北边防重镇，边防军队不得随意征调，军队在战乱中得以保存，并且此地还拥有可骑乘的战马数十万匹 。
