在这期间，张骞在匈奴与匈奴女子结婚生子，即便如此，他始终持节不屈，对当地的地理环境深入了解，寻找机会逃走。匈奴人看他已经结婚生子，渐渐对他的看管就松了，张骞就寻了机会带着随从和甘父向西逃走，跑了数十天，到达了离开匈奴的第一站，即大宛。
这一路上的艰辛不为外人得知，他们穿越沙漠，走过葱岭，因为他们是从匈奴逃出来的，所带的物资很少，这一路上风餐露宿，忍饥挨渴，很多随从就死在了路上，甘父不得不射杀动物来饱腹，才终于到达大宛。
当时大宛早就听说汉朝地大物博，物产丰饶，有了和汉朝结交的心思，他们对于张骞的到来倒是比较欢迎的，大宛的国王还派人将张骞一行人带到了康居国。康居国的人又将张骞等人带到了大月氏的地盘，这一行还是比较顺利的。
而等他们进入大月氏后，才知道一切已经变了样，张骞等人到达大月氏的时候已经是公元前129年，大月氏已经在大夏曾经的土地上建立了新的地盘，并且远离匈奴人，不愿意和匈奴结仇，况且大月氏离汉朝太远，远水解不了近渴。
