起初，曹操认为司马懿能力不错，先后任命他为黄门侍郎、议郎、丞相主簿，并打算日后对他提拔重用。然而，经过一段时间的观察，曹操看出司马懿心机太重，甚至有不臣之心，但又觉得他是个人才，并没有杀掉他，只是弃之不用。老谋深算的司马懿，早就看穿了曹丕的心思，并逐渐成为曹丕最为信任的谋士，不管有什么事情，曹丕基本都会向司马懿请教。
关羽围攻樊城之地时，生擒了曹魏猛将于禁，斩杀了名将庞德，一时间威震华夏，曹操大惊不已，并准备迁都。司马懿则趁机劝说道：“刘备、孙权各怀异心，现在关羽坐大，孙权必定更不高兴，把这事告之孙权，使他牵制关羽，樊城之围即可解除。”曹操听从了他的建议，派人联络了孙权，果然不出司马懿所料，孙权派吕蒙袭取荆州，并斩杀了关羽。
