到了宋朝初年，马全义历任内殿直都知、控鹤左厢都校，还兼任果州团练使一职。后来，他跟随宋太祖赵匡胤一同征讨李筠，李筠知道宋军兵强马壮，于是就有意收缩兵力退守泽州。他凭借城小且又坚固，让宋军久攻不下，此时，赵匡胤也担心时间长了军队无法继续战斗下去。无计可施之际，赵匡胤召来马全义，并特意赏赐他一同吃饭，在御榻前向他询问破敌之策。
马全义回答说：“李筠据守孤城，倘若我们聚集所有兵力来迅速地发起进攻，就能够立刻歼灭他们。但如果我们拖延下去，等到他的势力得到增长，到那时就很难对付他了。”赵匡胤说：“你和我想的一样啊。”他立即命令麾下所有士兵出动攻城。马全义亲自率领几十名不怕死的士兵登城，他身先士卒，攀墙而上，却被敌军的飞矢击中臂，鲜血一下子流到了地上。但马全义却丝毫没有退缩，他拔出箭头继续杀敌，因此军中士气大振，得以攻克敌城。
贼寇平定班师回朝后，马全义功劳居多，改任为龙捷左厢都校，代理江州防御使。但他不久就身染重病，为此赵匡胤还特意派遣太医前去诊视，他私下里还派人下谕旨说：“等到你的病好了，朕就授予你河阳节制使。”
虽然此时马全义的病情已经很紧急，但他仍然叩头谢恩。数日后，马全义去世，享年三十八岁。赵匡胤特追赠他检校太保、大同军节度使，以示殊荣。马全义出身军营，骁勇善战，多次得到统治者的赏识，因而也被委以重任。尤其是在宋朝效力期间，马全义更是尽职尽责，上战场也是勇冠三军，冲在最前面杀敌破阵，从而得到了赵匡胤的信赖。
当然，这些也离不开赵匡胤知人善任的能力，但可惜的是，这样一位能征善战的将领，竟然因为疾病缠身，仅仅活了三十八岁，便离世而去，实在是让人感到可惜。纵观马全义戎马一生，死后能得到皇上的这等殊荣恩赐，也算是值得他的那些付出了。
