李世民登基后，继续招揽有才学的人，留在身边。这种做法，被后来的皇帝保留了下来。这一批围绕在皇帝身边的人，被称为翰林待诏，主要负责给皇帝讲学，供皇帝文娱消遣。
中书舍人，是专门帮皇帝起草诏书的官职。唐玄宗时期，因为事务较多，很多重要的事情不能及时起草。开元二十六年，唐玄宗设置学士院，从翰林待诏中选拔一批人才进学士院，帮助中书舍人。
但是，翰林学士又不同于中书舍人，因为中书舍人直接隶属于中书省。而翰林学士，是直接对皇帝负责。一般的诏书由中书舍人起草，称为外制。而重要的诏书，则由翰林学士起草，称为内制。
起先，翰林学士是没有品级，也没有官署的，他们往往在朝廷里还兼任着其他官职。但是，"安史之乱"后，朝局日趋复杂，因为经常和皇帝一起讨论国家大事，其地位逐渐重要了起来。
