到了公元966年，宋琪就离开了赵赞，被召入朝中，授为左补阙、开封府推官。当时的开封府尹是赵光义，此时的宋琪就成了赵光义的手下，宋琪就跟赵光义搭上了关系。赵光义本来很欣赏宋琪，两人走得很近，但是宋琪偏偏跟赵光义的政敌赵普走得很近，这让赵光义很是恼火，找了个理由就把宋琪赶出了京城。
此后宋琪就一直在外流浪，被朝廷所遗忘。不过等赵光义当上朝廷之后，赵光义又想起自己这个以前的老部下，就又把宋琪召回了京城。公元983年赵普被罢相以后，宋琪与李昉一同升任宰相，皆授同平章事。要知道在公元982年，宋琪还是一个小小的七品兵部员外郎，仅仅一年的时间宋琪就当上了宰相。
当上宰相的宋琪就要发挥他的作用了，赵光义是如何当上皇帝的，至今都是一个未解的谜题。赵光义要想给自己的帝位一个肯定，就必须要去泰山封禅，但自己不能明说，这种事情只能让担任宰相的宋琪来干了。公元984年，泰山父老千余人诣阙上书，请皇帝到泰山封禅。
