骞为人强力，宽大信人，蛮夷爱之。堂邑父胡人，善射，穷急射禽兽给食。初，骞行时百余人，去十三岁，唯二人得还。
——《汉书·张骞传》
元朔三年（前127年）冬，御史大夫张欧因为年老多病请辞，汉武帝原本打算以孔子十世孙、蓼侯孔臧接任御史大夫一职，但孔臧却表示自己家族世代以传习经学为业，因此希望担任太常一职，汉武帝遂以孔臧为太常，而以老臣公孙弘为御史大夫。
公孙弘早年便曾给汉武帝上书，提出“凭才干任官职，不听无用的意见，不制造无用的器物，不夺民时妨碍民力，有德者进无德者退，有功者上无功者下，犯罪者受到相应惩罚，贤良者得到相应奖赏”等八条治国之法，从其中不难看出，公孙弘虽然赞同力行改革，但却主张以内政为主，且不建议太过损耗民力。
当时，汉武帝先是命唐蒙和司马相如开通西南夷道，而当卫氏朝鲜的藩国秽国国君南闾于元朔元年（前128年）率众28万归降汉朝后，汉武帝又于辽东设立沧海郡，并派人前往辽东筑城建制、安置民众，而在夺回河南地后，又开始了大规模的朔方城建造，这显然与公孙弘“与民休息”的主张极为不符。
为此，公孙弘多次上书进谏，认为以中原地区疲敝的代价，去开辟那些无用之地，完全就是得不偿失，希望汉武帝能够废止这些工程。汉武帝则让朱买臣等近臣与公孙弘就朔方郡的修建等问题进行辩论，公孙弘哪里是这些能言善辩又颇有文采之人的对手，立时便败下阵来。
公孙弘遂上书请罪说，“我是山东鄙人，没有考虑到设置朔方郡还会有这么多的好处。不过，臣认为如果朝廷要修筑朔方城，就应该废止对西南夷、沧海郡的工程，而集中力量经营朔方郡，否则太过损耗民力，于国不利。”
汉武帝思虑再三，认可了公孙弘的说法，长期大肆损耗民力的确不是太过明智的做法，于是下令废弃了设立仅一年的沧海郡建置。同年秋，汉武帝又下诏罢废了西南地区的建置，独留南夷、夜郎两县和一个都尉，后来又觉得不应放弃这么多年的建设，便命犍为郡自行完善地方建置，修筑长达九年的西南夷道工程也暂时被终止。朝廷开始集中全力修筑朔方城，完善朔方郡的建置。
就在公孙弘出任御史大夫，上书建议节省民力之时，匈奴内部亦发生了惊天巨变。
元朔三年（前127年）冬，匈奴军臣单于病逝。由于匈奴实行“世选制”，即新任的匈奴单于，必须经各部贵族共同认可才行，这虽然确保了匈奴单于对于各部的统治，但也给了那些野心家极大的操作空间。
军臣单于虽然生前便将儿子於单立为了太子，但其野心膨胀的弟弟、左谷蠡王伊稚斜却并不甘心效忠于年轻的侄子。于是，军臣单于去世之后，伊稚斜立即凭借着强大的军事实力自立为单于，并出兵攻打太子於单，匈奴因此陷入内乱。
太子於单实力不足，被伊稚斜击败后又不甘心臣服，遂率领残部南下归顺汉朝，汉武帝闻之大喜，封其为涉安侯。然而，於单由于身上有伤，在归顺数月之后，便不幸去世了。
这次内乱，不仅使得匈奴自身动荡不安，同时也给了一个囚犯逃走的机会，这个人不是别人，正是远赴西域十余年，归途中被囚禁匈奴一年多的张骞。
早在汉武帝即位后的第二年，即建元二年（前139年），汉武帝从匈奴俘虏口中得知，在敦煌、祁连一带曾有一个比较强大的游牧民族大月氏，后因攻占邻国乌孙而与匈奴发生冲突，后多次败于冒顿单于，以致国势日衰。老上单于时，匈奴再度大举进攻大月氏，大月氏国王不仅兵败身死，而且脑袋还被匈奴人割下来做成了酒器。经过这次惨败后，被迫西迁的大月氏虽然有心复仇，奈何已经无能为力。
为了联合大月氏夹攻匈奴，缓和汉朝西部的军事压力，汉武帝决定派人前往西域联系大月氏部落，并为此公开招募能够担当重任的人才，出身汉中郡城固县的郎官张骞挺身应募，担当起了西行的重任。同年，张骞率领一百多随行人员，以匈奴人堂邑父为向导，自长安出发前往西域，寻找西迁的大月氏。
当时，大月氏战败西迁之后，天山南路的西域各国亦相继被匈奴所征服，匈奴不仅控制了西域地区，其势力甚至已经深入到了河西走廊，从西部对汉朝形成了威胁。
河西地区，原本盘踞着诸多游牧部落，其中以大月氏和乌孙最为强大，乌孙被大月氏击败后，其部众或逃散、或归顺匈奴，河西遂被大月氏控制，而当大月氏被匈奴击败，被迫西迁以后，河西就此落入了匈奴手中。匈奴人在控制河西后，又继续向南发展，以致不少西羌部落也都归附了匈奴。
当张骞一行人匆匆穿过河西走廊时，便不幸遇上了匈奴骑兵，一行人全部被匈奴抓获。得知张骞乃是汉朝使者后，匈奴右部诸王立即将张骞等人押送到了匈奴王庭，献给了军臣单于。
军臣单于得知张骞出使大月氏的目的后，对其说道，“大月氏已经被我赶到北方去了，要出使他们，就必须要经过我们匈奴，你认为我会让汉朝的使者通过吗？如果我想派人出使南越，汉朝肯让我们的人经过吗？”
军臣单于虽然谎称大月氏迁徙到了北方，但他的意思却表达的很清楚，站在他们匈奴人的立场，是无论如何也不会容许汉朝使者通过匈奴地盘去出使他国的，就像汉朝不会准许匈奴人穿过汉朝地盘，去南方出使南越一样。
如此，张骞一行便被扣留在了匈奴单于庭。此后，军臣单于曾多次想要说服张骞放弃出使月氏的计划，甚至想要拉拢张骞为自己所用，并不惜采取威逼利诱各种手段。
寄人篱下的张骞，为了保住自己一行人的性命，只能在表面上表示顺从，甚至在军臣单于的安排下娶妻生子，表现出了一副要扎根匈奴的模样，但内心深处却始终没有放弃自己的出使任务，他一边学习匈奴人的语言，详细了解通往西域的道路，一边寻找脱身的机会。
元光六年（前129年），匈奴人眼见已经被囚禁了近十年的张骞等人似乎并没有逃走的意思，甚至历经多年的游牧生活已经与匈奴人无异，便逐渐放松了对他的监视。结果，内心一直渴望完成使命，回到汉朝的张骞，趁着匈奴人不备，带着随从逃出了匈奴，继续踏上了西行的艰难路途。
不过，张骞怎么也没有想到，就在自己困居匈奴的十年间，西域的形势也发生了翻天覆地的变化。
大月氏在被迫离开河西后，先是西迁到了西域伊犁河流域，击败并赶走了当地的塞人。然而，就在大月氏在伊犁河流域安定下来不久，便又遭到了乌孙的进攻。
当初，乌孙被大月氏击败后，乌孙王难兜靡亦不幸战死，由于其子猎骄靡刚刚出生不久，负责保护猎骄靡的贵族便率领残部归附了匈奴，并将猎骄靡交给了匈奴单于抚养。猎骄靡长大后，有心向大月氏复仇，有心向西域扩张的匈奴单于，遂将乌孙旧部交给其统领，并扶持和帮助其进攻大月氏。
在乌孙和匈奴的联合进攻下，月氏国一败再败之下，只得离开伊犁河流域继续向西迁徙，竟然早已离开了西域地区，来到了位于中亚咸海附近的妫水（即阿姆河）流域。
在打听到这个消息后，张骞并未因此放弃出使计划，而是在当地人的指引下，重新制定了一条行进路线，继续率领部下向西行进。
张骞一行经过车师后折向西南，进入焉耆国，然后沿着塔里木河，穿过热浪滚滚的大漠戈壁，又经过库车、疏勒等地，继续向西翻越高如屋脊、冰雪皑皑的葱岭（即帕米尔高原），这才抵达了大宛。
作为现代人，我已经很难想象，当初匆忙出逃匈奴的张骞一行人，在物资准备并不充足的情况下，是如何仅凭两条腿，走过这段人烟稀少艰难旅途的，更无法得知，在风餐露宿、缺乏淡水和食物的情况下，到底有多少人葬身黄沙、冰窟。
张骞抵达大宛后，向大宛国王表明了自己汉朝使者的身份，大宛国王看着站在自己身前，这群衣衫褴褛之人，根本无法将他们与一个国家的使者联系起来。为了化解大宛国王的疑虑，张骞只好将自己一行人出使月氏的使命和沿途的种种遭遇讲述了一遍，大宛国王在恍然大悟的同时，内心深处更是对张骞等人敬佩不已。
由于对中亚地区太过陌生，张骞希望大宛能够派人带领自己前往月氏，并表示如果今后自己返回汉朝，一定会禀明皇上，送给他很多财物作为酬谢。大宛国王早已风闻东方大国的富庶，很早便想与汉朝通使往来，奈何两国之间被匈奴阻隔，始终找不到合适的机会，在证实张骞汉朝使者的身份后，大宛国王本就十分高兴，再加上对于张骞等人的敬佩，对于他的这个小要求，自然不会拒绝。
在对张骞等人进行了一番热情款待后，大宛国王派出的向导和翻译，将张骞一行人送到了康居，并向康居王说明了情况，于是康居王又派人将张骞等人送到了大月氏。
历经千难万险，好不容易来到了出使的目的地，张骞立即求见月氏国王，向他表明了自己汉朝使者的身份，以及自己出使的目的。月氏国王对于汉朝使者不远万里来到月氏，的确感到十分高兴，但对于汉朝夹攻匈奴的提议，月氏国王却迟迟没有表态。
原来，大月氏人西迁之后，击败了当地原住民大夏国，夺取了妫水流域肥沃的土地。较之原来西域的土地，这片新的国土无疑要更加肥沃，物产也要更加丰富，又没有了外敌侵扰，原本对匈奴极为仇视的大月氏人早已改变了态度，不愿再参与到连绵不断的战争之中。
更为重要的是，远迁中亚的大月氏，距离匈奴和乌孙已经十分遥远，即便他们想要和汉朝联手击败匈奴、夺回失地，出兵路线也太过遥远，而且与汉朝也很难做到守望相助。因此，在分析利弊之后，月氏国王最终还是拒绝了张骞的提议。
历经艰险方才抵达月氏的张骞，自然不愿就此放弃，为了劝说月氏国王同意自己的提议，他又在月氏逗留了一年多的时间，一方面带着侍从四处走动，详细了解中亚地区的风土人情、地形地貌，期间甚至南下抵达了大夏的蓝氏城（今阿富汗的汗瓦齐拉巴德），另一方面则不断对月氏国王进行游说。
元朔元年（前128年），在始终无法劝说月氏国王答应出兵匈奴的情况下，张骞不得不放弃游说，带领一行人重新踏上归途。
在返回汉朝途中，张骞为了避开匈奴势力，他没有选择原路返回，而是在当地人的指引下，重新制定了一条路线。张骞原本决定向南绕行塔里木盆地南部，顺着昆仑山北麓，经莎车、于阗、鄯善等国，再通过羌人生活的青海地区返回汉朝。
张骞选择的这条路线原本十分安全，但让他没有料到的是，生活在青海地区的羌人竟然也已经沦为了匈奴的附庸，结果张骞一行再度被匈奴骑兵所俘，又被扣留了一年多的时间，直到元朔三年（前127年）冬，军臣单于去世，匈奴爆发内乱，张骞这才趁机和堂邑父逃出匈奴控制范围，重新返回了汉朝。
从建元二年（前139年）出发，到元朔三年（前126年）归汉，张骞的这次出使不仅历经十三年时间，更有大量随从不幸葬身途中，当初出发的一百多人，归来时仅剩下了张骞和堂邑父两人。
由于时间太过久远，以至于汉武帝在得到禀报时，竟然一时间没有想起张骞是谁，片刻之后这才反应过来，连忙下令召见。
时隔十三年后重新相见，君臣二人对视一眼，皆不免产生恍如隔世之感。
短暂寒暄之后，张骞将自己这十三年间所见所闻详细禀报了汉武帝。
张骞的这次出使，虽然未能达成联手大月氏夹攻匈奴的目的，但其所产生的实际影响和历史作用，无疑是极为巨大的。
秦汉以前，历代中原王朝的西界最远不过临洮，对于玉门以外的广阔西域，知之甚少。张骞这次出使西域，第一次揭开了西域的神秘面纱，使得这块广阔的土地第一次呈现在了中原君臣百姓的面前。
张骞的出使，不仅是一次极为艰险的外交旅行，更是一次卓有成效的科学考察。张骞不仅亲自访问了大量西域和中亚国家，更是将西域和中亚地区的地形地貌、风土人情、国家分布、人口、特产、兵力等情况，都做了充分的了解和记载。这为中原沟通西域，以及丝绸之路的建立，都奠定了不可磨灭的基础。
与此同时，张骞还向汉武帝报告，他在中亚的大夏国看到了来自于蜀地的布匹和邛竹杖，大夏人声称这是他们购自于身毒（今印度地区），因此张骞推测在汉朝的西南方向，应该有一条道路可从蜀地通往身毒国，进而转至中亚。
因此，张骞建议汉武帝可派人南下，从蜀地向西南行进，开辟一条直通身毒和中亚诸国的路线，以避开羌人和匈奴盘踞的危险区域，这便是蜀身毒道。这个发现和建议，则为南方丝绸之路的贯通，奠定了一定基础。
汉武帝对于张骞这次出使西域的成果，十分满意，对于他这一路的艰难险阻，更是深有体会，于是特封张骞为太中大夫，授堂邑父为“奉使君”，以表彰他们的功绩。