在掌握了大权之后，忽必烈开始按照他的想法构建国家。
他任用汉人为官，同时也废除汉人诸侯的世袭制度，削弱这些家族的军权，在地方上实行军民分治，一方面以加强中央集权，另一方面则可严密对汉人的防范。此外，又在各级政权中引用色目人分掌事权，使与汉人官僚相互牵制。
中统五年八月，忽必烈又改元为至元。经过从中统元年到至元初年的增改损益，新王朝的各种制度大体上确立下来。
至元八年（1271），取《易经》"大哉乾元"之义，建国号为大元。次年，确定以大都为首都。中央集权政治的重新确立，恢复了正常的统治秩序，对人民的赋役剥削限制在一定的数额之内，并采取了一些有利于农业和手工业生产的措施，如立司农司、垦荒屯田、兴修水利、限制抑良为奴等。
