事业起步之后，有一次公孙瓒跟随数十名骑兵外出巡逻关塞，看到数百名鲜卑骑兵，公孙瓒就退到空亭对随行队伍说："如不主动进攻必将被杀。"于是 手执长矛策马带队冲入鲜卑队伍，杀伤数十人，虽幸于死，自己也损失过半。鲜卑人以此为戒，再不敢轻易越进关塞。公孙瓒升迁为涿县县令。公元178年-公元184年(光和年间)，边章、韩遂叛乱，朝廷从幽州征发三千精锐骑兵，并给予公孙瓒都督行事的符节，统帅此三千骑兵。公孙瓒率军到蓟中时，碰上张纯引诱辽西乌桓首领丘力居叛乱，公孙瓒以三千骑兵追讨张纯等叛贼，立下战功，升为骑督尉。此时，属国乌桓首领贪至王率众归降公孙瓒。公孙瓒又升为中郎将，封为都亭侯，进驻属国，此后的五六年间，公孙瓒与北方游牧民族之间不争战不断。
公元188年(汉灵帝中平五年)，公孙瓒与张纯、丘力居等战于蜀国石门，张纯等大败，朝廷诏拜公孙瓒为降虏校尉，封都亭侯，又兼领属国长史。公孙瓒于是统领兵马，守护边境。每次一听到敌人来袭，公孙瓒马上声疾色厉，作战时像是打自己的仇人似的，甚至一直打倒夜深。从此乌桓都害怕公孙瓒的勇猛，不敢再来进犯。公孙瓒常与身边数十个善于骑射的人都骑白马，相互间为左右翼，自号"白马义从"。后来，朝廷派刘虞为幽州牧，刘虞到任后，派遣使臣到游牧民族中晓以利害，责令他们献上张纯的首级。丘力居等听说刘虞到了，纷纷派遣使者前来沟通归附之事。公孙瓒担心刘虞立功，暗中派人在途中暗杀这些使者，二人自此开始结怨。公元189年(汉灵帝中平六年)三月，张纯被其门客王政杀掉并把首级送给刘虞。刘虞因安抚游牧民族有功而被授予太尉之职，封为襄贲侯。不久，又迁刘虞为大司马，公孙瓒为奋武将军，封为蓟侯。
公元191年(汉献帝初平二年)，青州黄巾军攻打渤海(今河北南皮东北)，聚众三十万，欲与黑山军会合，公孙瓒率步骑两万人在东光南大破青州黄巾，斩首三万余。青州黄巾军弃辎重，奔走渡河。公孙瓒等他们过到一半时出击，再次大败黄巾军，死者数万，俘虏七万余人，车甲财物无数，于是公孙瓒威名大震。后来，公孙瓒占领了 冀州、青州、兖州等地，并任命严纲为冀州州牧，田楷为青州州牧，单经为兖州州牧，并配置了郡守县令，其中就包括刘备。
公元192年(汉献帝初平三年)，公孙瓒与在界桥南二十里处展开大战，结果不敌袁绍，但公孙瓒也没有完全失败，双方战成均势，后来罢战。公元193年(汉献帝初平四年)，刘虞率兵攻打公孙瓒，公孙瓒招募精兵数百人，顺着风势放火，趁势杀入刘虞兵营，刘虞大败，被活捉。此时董卓已死，献帝派使者段训给刘虞增加封地，令其督统六州，升迁公孙瓒为前将军，封易侯。公孙瓒诬陷刘虞与袁绍谋取称帝，胁迫段训斩刘虞及其妻子儿女于蓟市。公孙瓒杀了刘虞之后，得到了整个幽州，日益骄矜，不恤百姓，记过善忘，睚眦必报。
