曹冲病死后徐庶唯一的精神支柱随之破碎，曹操也再次邀请徐庶加入曹营，但依旧遭到徐庶拒绝。后来曹操以天下苍生来劝告徐庶，希望徐庶不要辜负天下苍生，徐庶心动了，但因为承诺不为曹操献策，恳请曹操把自己派到边关，他想守护边关百姓的安宁。曹操知道这是最好的结果，于是派遣他到并州一地处理政务，同时和边防将士一起抵御匈奴。
曹丕代汉自立后又把徐庶任命为御史中丞，这个官职在汉代具有一定的份量，手上有一定的实权。而徐庶身为一个"外来人"，曹营的很多"老人"职务都没他高，从这份任命可以知道徐庶在边关还是做出了不少贡献。而且不论是曹操时代还是曹丕时代，并州地区一直没有遭遇匈奴大规模袭扰，从这个现象也能看出徐庶还是做出了一定的贡献。
