宋朝建立之前是一个天下混乱的五代十国时代，中原割据政权林立，周边的游牧民族以及番邦趁势崛起，百姓生活在水深火热之中，俗话说乱世出英雄，既是乱世就需要有人来结束这乱世，而这个人就是就是赵匡胤，赵匡胤本是后周的大将，因周世宗柴荣英年早逝，而后发动陈桥兵变，黄袍加身，取代后周建立大宋，而赵匡胤也成为了宋太祖。
因为后周开国皇帝郭威也是发动兵变夺取了后汉的政权，而赵匡胤同时又是被部下逼着黄袍加身发动兵变当得皇帝，这两份经历让赵匡胤对武将很是忌惮，所以后来宋太祖怀旧释兵权，从那些开国将领手中收回了兵权，也不得不佩服宋太祖这个手段确实够高明，没有落得个诛杀功臣兔死狗烹的骂名，又解决了武将拥兵自重的问题。
宋太祖赵匡胤收回兵权以后对宋朝兵制进行了改革，枢密院为最高军事领导机关，有调兵权，却无统兵权；三衙(即殿前都指挥司、侍卫马军司和侍卫步军司)为中央最高指挥机关，有统兵权，却无调兵权；率臣，为禁军出征，或皇帝临时委任的将帅，统领分属三衙的禁军。这种改革确实很好的防止武将拥兵自重而发动叛乱，但是也出现了另外一个问题，就是"兵不识将，将不识兵"，这种情况下对于统兵作战非常不利，而且很多时候皇帝还喜欢派文官去带兵，这也为以后宋朝军事羸弱埋下了伏笔。
宋太祖在位期间虽然结束了五代十国多年的纷乱局面，但是在北方还有强大的契丹建立的辽国，赵匡胤一直都想收复被石敬瑭割给契丹的幽云十六州一统中原，多次北伐但是都无果，而后宋太祖莫名驾崩，宋太祖的弟弟赵光义继位，是为宋太宗，赵光义继位后也不忘收回幽云十六州，978年，越王钱俶也纳土归降，宋朝得地共13州、86县；979年，宋太宗亲征灭掉依附辽国的北汉，但是最终也没能收复幽云十六州，幽云十六州是中原抵御北方游牧民族的重要壁垒，这也导致了宋朝一直都是处于被动局面。
