翰林学士经常值宿禁中，所以能够参与起草将领任免、册立太子、宣布征伐等大事，当时被称为"内相"。唐朝的翰林学士，往往能够通过中书舍人这一官职，升为宰相。
唐宪宗时期，从翰林学士中选拔一名德高望重者，为翰林学士之长，称为学士承旨。北宋前期的翰林学士，承袭唐朝，起先也是没有品级的。宋神宗元丰改制后，翰林学士承旨和翰林学士成为正式官员，正三品，并且不再兼任其他官职。
相较于唐朝，宋朝翰林学士权力有所下降，能入翰林学士院的，都是一些文学之士。但是，地位仍很尊贵。宋哲宗去世时，蔡京为翰林学士，朝廷急诏他草拟哲宗遗诏。当时，宰相亲自递笔，副宰相磨墨。
宋朝之后，没有纯粹的"翰林学士"一职。明朝也有翰林院，学子在殿试之后，成绩优异者，会被授予翰林院修撰（从六品）、翰林院编修（正七品）、翰林院检讨（从七品）等职。
