"衍圣公"称号的由来，具体要追溯到孔子时代。在孔子死后，鲁哀公在纪念孔子的悼词中，为表示对一代圣人的尊敬，便称呼其为"尼父"（孔子名丘字仲尼）。而随后鲁哀公便为孔子修建孔庙，并从此开始了世人对其的祭祀。但当时尚未设立专门的奉祀官。直至汉高祖刘邦建立汉朝后，才于高祖10年，因路过山东祭拜孔子，遂封孔子第九世孙为奉祀君，主持孔子的祭祀事务。
而到了汉元帝时期，元帝封孔子的第十三世孙为褒成侯，其所得俸禄食邑，专门用以孔子的祭祀事宜。随后，孔子的后代便开始了世袭爵位的过程。汉平帝封孔子的十六世孙为褒成侯，并将爵位由关内侯提升为彻侯（有封国），食邑2000户。而到了王莽新汉时期，由于孔子后代不承认朝廷的正统性质，拒绝接受王莽授予的官职，因此失去爵位。直至东汉光武帝刘秀时期，才重新恢复爵位。
而到了北周静帝时期，孔子又被封邹国公，孔子后代也袭得此爵。隋朝又封孔子后裔为绍圣侯，至唐代，唐玄宗封孔子为文宣王，又封孔子第三十五世孙为文宣公。唐末失爵，直至五代十国时期，后唐又恢复了孔子后裔的爵位，并将文宣公之爵位沿用至北宋时期。北宋仁宗年间，仁宗赵祯认为孔子后人世袭孔子谥号为大不敬，便改封孔子后人为"衍圣公"。这便是"衍圣公"的由来。
