在《三国演义》中，有一段与徐庶有关的情节感人至深，让人读之落泪，说的是刘备在荆州时，徐庶毛遂自荐，就此曾为了刘备身边的军师，并帮助刘备击败曹军，当时败军回到许都，向曹操汇报了当时的情况，曹操当即询问是谁向刘备出谋划策，此时谋士程昱称是徐庶在为刘备谋划，并为曹操设下一计，称可以让徐庶主动投曹营。当时曹操依照程昱的计谋，派人将徐庶的母亲请到许都，并让人模仿徐母的笔记给徐庶寄了一封假信，信中内容是让徐庶速来许都救他的母亲。
徐庶在接到信件后，方寸大乱，只能与刘备依依惜别，不过在徐庶临走之前，他告诉刘备此间有一位不世出的人才名为诸葛亮，目前诸葛亮在南阳耕种，刘备可以邀请他来辅佐，说完之后，就与刘备挥泪而别。然而等徐庶来到许昌，见到自己的母亲后，徐庶反而被自己的母亲破口大骂，徐庶这才知道他原来是上了曹操的当。更让徐庶没有想到的是，徐母在愤怒之下，竟然直接自尽身亡，而徐庶就此在曹营不发一言，不设一计。既然徐庶的母亲都已经去世了，为何他不在这之后回去投靠刘备，就此向曹操复仇呢？
事实上，徐庶不回去，才能凸显出徐庶一臣不事二主的真性情，说明徐庶并非反复无常的小人。要知道徐庶与关羽的境遇有一定的相同之处，他们都是被曹操控制而无法脱身，当时徐庶有一个母亲，而关羽身边则是两个嫂嫂，刘备对徐庶有知遇之恩，对关羽有手足之情，而徐庶立下誓言，不会给曹操献一计一策，而关羽则与曹操约法三章，将来会回到刘备身边。只不过两人的处理方式并不相同，关羽在建功立业后寻找刘备，而徐庶则一辈子呆在曹魏默默无闻。
