赵匡胤早年注重学习文化与武艺，并外出游历各地，对社会现状与人情世故有较为深入的了解。父亲赵弘殷历经后梁、后晋两朝，但均未获得升迀。直到后汉公元948年，赵弘殷因讨伐王景崇有功，升任侍卫马军护圣军都指挥使。同年，枢密使郭威（即后来的周太祖）征讨李守贞，赵匡胤应募从军，时年二十一岁。
后周建立后，赵匡胤担任禁军近卫班直的东西班行首（后属殿前司），仍是低级军官。显德元年（954年），后周太祖郭威去世，其养子柴荣即位，是为周世宗。北汉主刘崇闻讯，认为后周皇帝去世，正是兴兵征讨的时机。于是他遣使请求契丹发兵相助，谋求合力攻打后周。
北汉与契丹联军来势汹汹，世宗柴荣决定率军亲征，这次战役史称高平之战。交战不久，后周大将樊爱能、何徽就带领所属骑兵溃逃了，情势一度十分危急。这时，赵匡胤在军中鼓舞士气，又向长官张永德请战，二人各自领兵两千人分左、右翼围攻敌人。赵匡胤身先士卒，径直冲向北汉军前锋。在他们的合力攻击下，击败了北汉军队。战后奖赏高平之功，张永德在世宗面前竭力称赞赵匡胤的智勇，于是他被提拔为禁军高级将领，此后不断被委以重任。
高平之战中，士兵的溃逃现象和散漫作风暴露了禁军的各种弊端。周世宗命赵匡胤负责整顿禁军。赵匡胤将禁军中''武艺超绝''的士兵选入殿前诸班，同时将新招募的士兵中身体强健的直接招至殿前司。此后，殿前司的实力大大增强，赵匡胤在选拔过程中也慢慢培植了忠于自己的势力。此外，赵匡胤还拉拢了一批军官结为''义社兄弟''，其中包括杨光义、石守信、李继勋、王审琦、刘庆义、刘守忠、刘廷让、韩重贳、王政忠等人。这些人及他们属下的将士日后成为了赵匡胤发动兵变、代周建宋的主要力量之一。
