到了汉元帝年间，康居多次与乌孙交战，屡战屡败。为对付乌孙，康居王招来匈奴郅支单于残部，希望借助单于的力量击败乌孙。结果郅支反手控制了康居，并征服大宛、奄蔡，而且多次入侵汉朝盟友乌孙。西域都护甘延寿、陈汤挥师西征，斩郅支单于头，荡平匈奴残部，以示万里，明犯强汉者，虽远必诛，也顺带教训了康居，同时客观上从匈奴的枷锁中解放了康居。
彻底摆脱了匈奴人百余年压迫的康居开始雄起，在西汉末年成长为西域一霸。汉成帝年间，康居自恃强大，胆敢公然侮辱汉朝使者。后来，康居又派出王子入侍汉朝，似乎要和解。但是西域都护郭舜认为，康居的所作所为严重侵害了汉朝的利益，突然遣子入侍不过是"欲贾市为好"，建议政府归其侍子，与康居断交，以章汉家不通无礼之国。但朝廷"重致远人"，没有采纳郭舜的建议。
康居的国力虽然不能与汉朝和匈奴相比，但在西域，算是诸多地头蛇中比较粗壮的那一条。康居本部是游牧民族，与乌孙、大月氏、匈奴习俗相近，地处巴尔喀什湖以外的哈萨克斯坦北部丘陵地区，在乌孙和大宛的西北，人口有六十万，胜兵十二万。康居本部的治理体系，应当与普遍的游牧民族政权没有本质不同，属于松散的部落联盟，上有一个共主总揽全局，下有若干个翕侯分领诸部，强则蚁聚，弱则猢狲散。
同时，康居也控制了中亚乌兹别克斯坦的诸城邦。《汉书》记载，康居下辖五个小王，分别是罽王、奥鞬王、窳匿王、苏薤王、附墨王。根据《新唐书》，这五个小王所统治的地区分别是安国（布哈拉）、火寻（花剌子模）、石国（塔什干）、史国（渴石）、何国（屈霜你迦），都是定居城邦，其中安国、何国、史国均为粟特人的国家。这五个小王国，显然是被康居人所征服，可能他们的国王和统治阶级是康居人而主体居民是土著人，也可能国王仍然是土著人，但康居在此有驻军，有类似于后世突厥吐屯或者蒙古达鲁花赤这样的康居官员实际操纵一切。这样的统治方式并不稀奇，同一时期匈奴对南疆诸城邦的控制、大月氏对吐火罗诸城邦的控制皆是此类。现代考古学家也在乌兹别克斯坦南部史国一带发现的零星的康居贵族的墓地，也可以印证。正是因为康居对乌兹别克的统治，所以当年张骞才要以康居为中介到达大月氏，即张骞过境的是康居治下的乌兹别克，而非远在哈萨克的康居本土。
