这样的人才自然也是赵匡胤想要笼络的，但在赵匡胤殿前都点检时，权势颇重，曹彬却不偏不倚，不遇公事从不登门拜访，群居宴会，他也很少参与。赵匡胤对他更是器重，在他登基称帝之后的第二年，便召曹彬回朝，委以重任。赵国胤先是任命曹彬为客省使，与王全斌、郭进率领骑兵攻打北汉，取得了战功。
乾德元年(公元963年)，曹彬被改任左神武将军，在宋军攻克辽州后，北汉引来辽国的六万骑兵来反攻宋军。曹彬与昭义军节度使李继勋等人，率军迎战，在城下大破汉辽联军。不久，曹彬兼任枢密承旨。之后，在平灭后蜀，征伐北汉两国的战斗中，曹彬都先后立下不少战功。随后，宋朝开始讨伐南唐，曹彬与潘美等将连克南唐军队。
