在宋朝统治时期，甘肃和宁夏的大部分地区，基本上在西夏政权的控制之下，与宋朝展开了长期的对峙。宋朝仅仅控制了甘肃的最东部，从而拱卫关中地区。元朝统一全国以后，建立了沿用至今的行省制度。元朝建立行省制度的原因复杂，其中最主要的原因就是因为疆域辽阔，为了进行全面的管理。元朝把全国划分成了10个行省，甘肃行省就是其中之一，甘肃行省的管辖区与当年的西夏国非常相似。
元朝虽然打下了辽阔的版图，但是统治的时间并不长。公元1368年，明朝建立，与此同时，明朝开始了大规模的北伐。明朝军队逐步占领了华北、西北等地，请注意，元朝败退蒙古草原以后，并不甘心。元朝势力还拥有很强的势力，为了再次控制中原，北元朝廷开始不断组织力量南下。
由于战局的变化，明朝与北元政权的对抗，形成了华北和西北两个战线。其中，西北前线是双方争夺的焦点。因为西北地区距离蒙古草原很近，距离中原王朝则比较远。尤其是甘肃地区，北面和西面都面对蒙古势力的威胁。其实，明朝并没有完全控制甘肃地区。在这样的情况下，无论是民政经济，还是国防建设来说，甘肃地区都无法建立一个行省。
