我们知道，所谓"三公"，是指地位完全相等的三个官职。但是，上述三个官职从来没有完全地相等过，因此，这三个官员不能称为"三公"，整个西汉也不存在所谓的三公制。
但是，这并不是说当时就没有"三公"这种说法。只是依据某种习惯，将丞相、太尉、御史大夫合称为"三公"。因为毕竟朝中这三个职位的品秩最高，虽然御史大夫比前二者的品秩要低，但他在百官之中排在第三位，且由于太尉这个职位常常无人担任。因此，在大多数情况下，除了丞相，就属御史大夫名位最高、权力最大了，可以说他实际上是第二位高官。
其实，西汉虽无正式的"三公"制，但并不是说从来没有过这方面的动议。比如，汉成帝时，担任九卿的何武就向皇帝建议建立"三公"的官制，他认为天下政事繁多，仅以丞相一人总领，必定力有未逮，所以应当设立"三公"官职，"分职授政，以考功效"。于是，在成帝绥和元年（公元前8年），天子授予大司马印绶官属，改御史大夫之职为大司空，封列侯，并增加其俸禄与丞相同等。这一切都是在为实行"三公"制做准备。
但是，仅仅过了三年，即汉哀帝建平二年（公元前5年），事情又有了变化。时任大司空的朱博上书反对建立"三公"制；而汉哀帝又听从了他的意见，并把"大司空"一职又改回了御史大夫，"哀帝从之，更拜博为御史大夫"，同时免除了大司马的印绶官属。至此，"三公"制彻底瓦解。
