这时，朝廷的侍从官张骞应募出使。
长安距大月氏不远万里，而且中间必须经过匈奴的地盘。所以张骞的西域之行注定充满艰辛与危机。
公元前138年，张骞的使团自长安出发。这个使团共百余人，由汉军俘虏的匈奴人堂邑父作为向导兼翻译。
在进入匈奴人控制的祁连山一带时，虽然张骞一行为了避免被匈奴人发现，只得在夜间行走，但还是被匈奴骑兵扣押，押往位于今呼和浩特附近的匈奴王庭。
当匈奴军臣单于得知，张骞欲出使大月氏后，立即扣留了张骞一行。
匈奴为了招降张骞，对张骞恩威并施，威逼利诱。为了使张骞长居匈奴，消磨其意志，匈奴还强制张骞娶了一位匈奴妻子，并生下了儿子。
但张骞牢记使命，面对匈奴的招降不为所动，在被匈奴扣留的十余年里，仍伺机逃脱匈奴，再度出使大月氏。
直到前128年，由于张骞已被匈奴扣留了十余年，所以后期，匈奴对张骞的监视也日渐松懈。
于是，张骞与其随从乘匈奴人不备，就逃离了匈奴人的地盘。此时，张骞的妻儿并没有随张骞逃脱，而是留在了匈奴。
张骞一行首先逃到了大宛。大宛王听说汉王朝富庶，有意结交，于是就答应张骞的请求，将使团送往康居。张骞等由康居到达大月氏。
张骞在匈奴被扣留了十余年，在这十年时间里，大月氏的形势已大变。
大月氏由于乌孙国的进攻，已再次西迁到达妫水，在这里安居乐业，已无复国之意。
张骞联络月氏未成，只能打道回府。
为了避免返再次遭遇匈奴人，张骞决定绕开匈奴人的控制区，改走羌人地区。
但令张骞始料不及的是，此时羌人也被匈奴人征服。张骞一行又落入匈奴人手中。
不过，因为这一次的被扣，张骞又和他的匈奴妻子再次团聚。
前126年，匈奴内部发生内乱。军臣单于死后，匈奴左谷蠡王与太子于单争权，左谷蠡王自立为单于。
张骞趁着匈奴内乱携随从乘机逃脱。这次出逃的成功也多亏的张骞的匈奴妻子相助。
返汉之路异常艰辛，幸亏堂邑父善射，射得猎物，张骞得以果腹。而张骞的随从因为环境的恶劣，大多死于途中。出发时，百余人的使团只生存了张骞和堂邑父两人。
张骞出使西域，虽然没有达到联合月氏抗击匈奴的预期效果，但张骞被匈奴扣留两次，长达十三年，仍矢志不移，不忘使命，一心向汉，其对汉的忠诚令武帝大赞。
于是张骞被封为太中大夫，堂邑父被封为奉使居。
张骞苦尽甘来，但与他一同归汉的匈奴妻子，在与他共同患难十年后，却无福消受此时张骞的荣耀。
在归汉后的次年，张骞的这位匈奴妻子就染病身亡了。
不过，在几年后，张骞因为熟悉匈奴地形，以卫尉身份随大将李广抗击匈奴，因贻误战机，差一点被斩，幸亏用钱财赎了一条命。
此后，张骞再次出使西域，联络乌孙及西域诸国。
这次出使归来后，张骞出任大行官，位列九卿。但长年的在外奔波，使张骞心力交瘁。不久，这位被司马迁称之为“凿空西域”的使者就溘然长逝。
