不过，到了十三世纪之初，当蒙古兴起时，西辽亦已处在衰败的时期了。它在锡尔河流域以外的旧土全部被花剃子模并吞，其东部领土则被乃蛮王子曲出律所据有。当时，西辽皇帝叫直鲁古。他是一个愚昧昏庸的统治者，无视国家事务。曲出律一次又一次被蒙古军打败，投奔西辽，直鲁古对他毫无警惕，反而将女儿嫁给他，并供应他费用去召集乃蛮和篾儿乞残部。曲出律势力渐渐增强了。他先是挑起西辽与花刺子模的互斗，继而囚禁直鲁古，夺取了西辽的帝位。他出兵征服可失哈儿（今新疆喀什）和斡端（今新疆和田），似有复燃之势。但是，曲出律统治下的西辽，各层次的阶级矛盾十分尖锐，人民怨声载道。
一二一八年，成吉思汗派哲别率兵两万出征曲出律。当时曲出律正在可失哈儿，闻讯后仓惶向西南出逃。哲别进入西辽境后，利用西辽的民族之间的矛盾和宗教矛盾，允许当地居民信教自由，宣布除了追捕曲出律以外别无所求，保证居民的安全。所以他立即赢得了广大回教徒的支持。他们纷纷起来杀掉住在老百姓家里的曲出律士兵。哲别追曲出律直至巴达哈伤（今阿富汗巴达克山）边境地区。在那里，曲出律走进一个没有出口的死谷。正在附近山地行猎的巴达哈伤山民将他捕获后交给了哲剔。西辽终于落入蒙古人的手中。这样，蒙古国就与当时中亚最强大的国家--花刺子模接界了。
