刘邦当上汉王之后,重新设立了相邦的职位,韩信是汉朝第一任相邦,刘邦死后其子孙为了避讳将"相邦"改为"相国",汉朝中后期因为相国权柄太大就一直没有任命这个官职,直到东汉末年董卓才自命这个官职,即使如汉武帝时期也只不过任命了丞相而已,所以自从董卓当相国之后,一般都认为当此官职的是篡权者,所以曹操最多也就是当个丞相,大不了加"九锡"。
到了隋朝改三公九卿制为三省六部制之后,三省的长官侍中、中书令、尚书令成了实际上的丞相,这其中又以尚书令地位最尊,因为唐太宗李世民在武德年间就担任过尚书令一职,后世唐朝基本上就不设置尚书令了,以尚书左仆射为实际的首相,房玄龄就曾经担任过这个官职,而只要加了同中书门下平章事头衔的都算是当朝宰相,所以唐朝有时有宰相头衔的甚至有七、八人之多。
在宋代,虽然三省名义始终存在,但是已经混同为一省,同时由于枢密院、三司的设立,宰相的军权、财权被剥夺,三省制度名存实亡。宋代通常二相并任,较唐朝时少了许多,也有独相一人或三相并置的。二相并任的,首相并兼昭文馆大学士、监修国史;三相并置时,以昭文馆大学士为首相,次相监修国史,末相兼集贤殿大学士。