原来，赵匡胤当上皇帝以后，范质就上书赵匡胤，建议分封宗族，这样可以作为屏障，还特意推荐了赵光义：我看皇弟泰宁军节度使赵光义，自从在军队中任职，特别有将才，树立为藩镇后，尤其积累起名望；嘉州防御使赵光美，雄俊老成，注重修养好行善，好声誉日有所闻。乞求一并颁发封册，赐给爵位。赵匡胤个采纳了他的建议，赵光义这才顺水推舟的走向权力的道路。
大宋建立以后，赵匡胤对范质依然很倚重，在南郊行礼以后，进封范质为鲁国公，范质也知道高处不胜寒的道理，因此再三提出辞呈，但是都被赵匡胤拒绝了。
乾德二年（964年）正月，范质与王溥、魏仁浦同日罢相，范质被授为太子太傅。同年九月，范质去世，终年五十四岁。
