至于孙权建立的东吴，设有大司马和左大司马、右大司马，位在上大将军之上，一般由大将军或者上大将军升迁而来。如吕岱、施绩、陆抗、丁奉、朱然、全琮。由此，非常明显的是，在三国时期，不管是在曹魏，还是在蜀汉、东吴，大司马都位在大将军之上。当然，在实权上，这两个武将官职实际上不相上下的。比如司马懿去世后，司马师只担任大将军一职，却依然可以牢牢掌握曹魏的大权。
三
至于太尉和大将军的关系，则比较复杂。对于太尉一职来说，属于三公。东汉时期，窦宪出任大将军，由于权势太大，朝廷震动，联合奏请以大将军位列三公之上。（《后汉书·窦宪传》）。进入到三国时期，基本上沿袭了东汉时期的官职排名，也即大将军地位在太尉之上。比如黄初元年（220年），曹丕即位，为报贾诩之恩，拜贾诩为太尉。
但是，对于此时的贾诩，不管是实权还是地位，都不能和曹魏大将军夏侯惇相提并论。因此，在三国初期，太尉顶多是一个荣誉职位，虽然位列三公，却明显不如大将军，更不用说和大司马比较了。不过，青龙三年（235年），因为抵御诸葛亮北伐的战功，魏明帝曹叡将大将军司马懿升为太尉，累增封邑。
