汉灵帝光和年间,公孙瓒率领三千骑兵去平定边章、韩遂的叛乱时,碰上渔阳人张纯鼓动着辽西乌桓的丘力居等造反作乱。于是,公孙瓒就果断地、勇猛地率军打击了张纯等叛贼,受到了朝廷的表彰,被晋升为骑都尉。随后,乌桓的贪至王见势头不好,就率众投降了公孙瓒。公孙瓒被封为都亭侯、中郎将。
188年,公孙瓒大战张纯、丘力居时,作战勇猛,深入追击,被丘力居的军队围困了二百多天,到了弹尽粮绝的境地,士兵也死伤一多半。此时,丘力居的军队也是缺吃的少喝的,战斗力非常低了,丘力居只好偷偷地撤围远走柳城。于是,公孙瓒得救了,获胜了。朝廷为此封公孙瓒为降虏校尉,兼领属国长史。
从此,乌恒人不敢再轻易进犯。与公孙瓒一起征战沙场的几十位马骑得好、箭射得好的人,都喜欢骑白马,作战时团结互助,因此他们自号"白马义从"。
191年,公孙瓒率领军队大战青州的黄巾军,杀的黄巾军丢盔卸甲,大败而逃。公孙瓒趁他们逃跑渡河到一半时,迅速出击,再次击败他们,杀死、俘虏数万人,并获取了很多财物。
于是,公孙瓒威震天下了。