目睹西晋的乱局，张轨敏锐的看出待在朝廷没有前途，主动要求前往凉州任职，于永宁元年出任护羌校尉、凉州刺史。
到任后，正逢鲜卑族叛乱，境内盗匪横行，张轨表现非常优异，接连平定叛乱，斩杀叛贼一万余人，由此威名大震。
之后数年间，张轨励精图治，在凉州大力发展生产，稳定社会秩序，由此吸引了一大批人才，渐成一方豪雄。
韩稚杀死张辅后，凉州司马杨胤看出了立威的机会，对张轨道："韩稚擅杀刺史，明公杖钺一方，不可以不讨。"
张轨听从了他的建议，立马派出中督护氾瑗率领两万人前往讨伐，韩稚自知不敌，向张轨投降，陇西从此成了张轨的势力范围。
