司马遹是司马衷的儿子吗？史书上是这么记载的，不过司马遹的出生问题其实还是比较敏感的。他的生母谢玖原本是司马炎的才人，也就是小妾。可是有一天司马炎突然就把自己的这位小妾赐给了他的傻儿子司马衷，谢玖怀孕以后也是回到司马炎这里生下了司马遹。
司马遹五岁时，宫中失火，晋武帝登楼观望，年幼的司马遹拿着他的袖子进入隐蔽的地方，晋武帝觉得很诧异就问他这么做是什么原因。司马遹说："现在是深夜，又发生了意外事件，皇上不能站在有光亮的地方，否则有危险。"武帝听了非常开心，儿子虽蠢，孙子聪明啊。
年幼的司马遹还曾陪晋武帝到养猪的地方去玩，对武帝说："这些猪又肥又大，留在这里浪费粮食，不如杀掉分给大臣们吃呢？"他确实比他爹聪明，他爹司马衷就知道说吃肉糜。晋武帝嘉奖孙子的好意，于是就将那些猪杀了烹煮分给将士，还考赞他"此儿当兴我家，甚至说他有司马懿之风。
