同时，忽必烈亲自带领大军，直扑阿里不哥的老巢和林。阿里不哥哪里是对手，慌忙逃到谦州，他怕忽必烈追来，就使了一个缓兵计，派人向忽必烈认罪，说他愿意投降，等他把马儿养肥了，再同其他王一起来拜见。忽必烈认为阿里不哥所做的事，全是他的谋士指使的，因此，就对使者说："你回去告诉我的弟弟，说我相信他的话，原谅他了，叫他快快来见我。"后来忽必烈等不及了，就派也孙哥驻守和林，自己先回开平了。
公元1261年秋天，阿里不哥养肥了他的战马，又收集了一批人马，又发兵南下。他派人到也孙哥那儿，假意说是来投降，也孙哥信以为真，没有做打仗的准备。阿里不哥发动突然袭击，又把和林夺了回去。
忽必烈知道后，马上又带兵北上，两军在昔木土脑儿相会，结果阿里不哥又被打败，逃回和林。可是这时，原来支持阿里不哥的阿鲁忽王也起兵反对他，阿里不哥被迫逃到新疆去。
后来，阿里不哥又打了多次败仗，加上蒙古高原又发生了饥荒，原来支持阿里不哥的各王，纷纷跑到忽必烈那儿去了。
公元1264年，阿里不哥只得向忽必烈投降。忽必烈问他："咱们兄弟俩，按道理讲，到底谁该当大汗呢?"阿里不哥说："以前我是对的，现在是大汗你对!"他还挺硬气的，只承认失败，可不承认无道理。后来，忽必烈下诏：阿里不哥等王，都不问罪，但是他的谋臣，要全部杀死。这样，忽必烈巩固了他的汗位。
忽必烈平定阿里不哥后，把政治中心由和林搬到燕京，他继续推行"汉法"来改造蒙古国。公元1271年，忽必烈根据刘秉忠的建议，按《易经》上"乾元"(极大)的意思，把国号改为"大元"，这样元朝正式成立了，忽必烈就是元世祖。第二年，元世祖把燕京改为大都，作为全国的首都。
