张骞和堂邑父在大月氏住了一年多，还到大夏去了一次，看到了许多从未见到过的东西。但是他们没能说服大月氏国共同对付匈奴，只好回来。经过匈奴地界，又被扣押了一段时间，幸好匈奴发生了内乱，才逃出来回到长安。
张骞在外面足足过了十三年才回来。汉武帝认为他立了大功，封他做太中大夫。
张骞向汉武帝详细报告了西域各国的情况。他说：“我在大夏看见邛山（在今四川省，邛音ｑｉóｎｇ）出产的竹杖和蜀地（今四川成都）出产的细布。当地的人说这些东西是商人从天竺（就是现在的印度）贩来的。”他认为既然天竺可以买到蜀地的东西，一定离开蜀地不远。
汉武帝就派张骞为使者，带着礼物从蜀地出发，去结交天竺。张骞把人马分为四队，分头去找天竺。四路人马各走了两千里地，都没有找到。有的被当地的部族打回来了。
往南走的一队人马到了昆明，也给挡住了。汉朝的使者绕过昆明，到了滇越（在今云南东部）。滇越国王的上代原是楚国人，已经有好几代跟中原隔绝了。他愿意帮助张骞找道去天竺，可是昆明在中间挡住，没能过去。
张骞回到长安，汉武帝认为他虽然没有找到天竺，但是结交了一个一直没有联系过的滇越，也很满意。
到了卫青、霍去病消灭了匈奴兵主力，匈奴逃往大沙漠北面以后，西域一带许多国家看到匈奴失了势，都不愿意向匈奴进贡纳税。汉武帝趁这个机会再派张骞去通西域。公元前１１９年，张骞和他的几个副手，拿着汉朝的旌节，带着三百个勇士，每人两匹马，还带着一万多头牛羊和黄金、钱币、绸缎、布帛等礼物去结交西域。
张骞到了乌孙（在新疆境内），乌孙王出来迎接。张骞送了他一份厚礼，建议两国结为亲戚，共同对付匈奴。乌孙王只知道汉朝离乌孙很远，可不知道汉朝的兵力有多少强。他想得到汉朝的帮助，又不敢得罪匈奴，因此乌孙君臣对共同对付匈奴这件事商议了几天，还是决定不下来。
张骞恐怕耽误日子，打发他的副手们带着礼物，分别去联络大宛、大月氏、于阗（在今新疆和田一带，阗音ｔｉáｎ）等国。
乌孙王还派了几个翻译帮助他们。
这许多副手去了好些日子还没回来。乌孙王先送张骞回到长安，他派了几十个人跟张骞一起到长安参观，还带了几十匹高头大马送给汉朝。
汉武帝见了他们已经很高兴了，又瞧见了乌孙王送的大马，格外优待乌孙使者。
过了一年，张骞害病死了。张骞派到西域各国去的副手也陆续回到长安。副手们把到过的地方合起一算，总共到过三十六国。
打那以后，汉武帝每年都派使节去访问西域各国，汉朝和西域各国建立了友好交往。西域派来的使节和商人也络绎不绝。中国的丝和丝织品，经过西域运到西亚，再转运到欧洲，后来人们把这条路线称作“丝绸之路”。
