朝代不同，洗马的职掌亦有所不同，比如东汉时洗马为谒者，编制为16人；晋时，洗马改掌图籍，编制为16人。到了南朝的梁时，朝中专设了典经局，设有洗马官，职掌信札等，职务与秦汉洗马略有不同。北齐时称典经坊洗马，隋朝改名为司经局洗马。唐代沿用前朝旧制，设洗马二人，品秩为从五品下，职掌东宫经史子集四库图书的刊缉贮藏，所以，又称"太子洗马"。
唐代的"一代名相"魏徵，在玄武门事变之前，就是太子李建成的太子洗马。在任太子洗马时，魏徵曾多次劝说李建成要提防李世民，最好是先下手为强，但是，李建成没把他的话当回事，结果才有玄武门之祸。李建成、李元吉等人被诛杀后，李世民派人拘捕了魏徵，并责问道："你为什么要离间我们兄弟？"魏徵回答说："太子要是按照我说的去做，就没有今日之祸了。"李世民见魏征如此耿直，就赦免了魏徵，并任用魏徵为詹事主簿。其后，更是对魏徵"言听计从"了十多年，君臣间留下了一段段直谏与纳谏的王朝佳话。
