为了打击司马家族，刘裕登基之后杀害了很多司马皇族之人。而司马楚之则成为了他忌惮之人，因为此人折节待士，胸怀坦荡，有很多追随者。那个时候，刘裕正在诛杀司马氏的亲属，司马楚之的叔叔、哥哥都被杀害了，司马楚之于是藏在和尚当中渡过长江，逃往北魏。
为了躲避灾难，十七岁的司马楚之藏匿在汝颍之间。到了北魏明元帝拓跋嗣在位后期，他选择了善待司马皇族之人，而司马楚之也因此选择了投奔于他。在后面的日子里，司马楚之为北魏打了不少的胜仗，因此被封为琅琊王。
后来，为了复仇，司马楚之在长社（河南长葛）积蓄党羽，扩充势力，追随之人达到数万。《北史·卷二十九·列传第十七》中便记载了一个这样的故事：
刘裕因为忌惮司马楚之，于是派遣刺客前去刺杀他，而这个刺客便是沐谦。沐谦伪装为投奔司马楚之的门客，成功进入了司马楚之的阵营之中，并获得了接触对方的机会。
