据《三国志·公孙瓒传》记载，汉灵帝光和年间，凉州附近有贼军作乱。于是朝廷便给公孙瓒调拨了三千幽州铁骑，令其前往边境讨贼。公孙瓒来到北疆之后，因素有军功，被擢升为中郎将，"与胡相攻击五六年。"正是在这段时间里，公孙瓒才逐渐意识到了轻骑兵的重要性。经过一段时间的准备，公孙瓒从麾下义从中挑选出了善射且身经百战的一批士卒，组成了后来的白马义从。
据《后汉书·公孙瓒传》记载：" 瓒常与善射之士数十人，皆乘白马，以为左右翼，自号'白马义从'。"从汉末角度来看，白马是六到七岁左右青马褪毛之后形成的一种特殊肤色。公孙瓒便是因为喜欢骑这种马，故而时人称之为"白马将军"。白马义从无论是马匹、士兵还是兵器盔甲，都是公孙瓒精心准备。在后者与胡人的交战中，白马义从凭借突出的机动性能，成为了公孙瓒手中的一把利刃。
