仍有一小部分月氏人留在故地，没有西迁，向南翻过祁连山，史称小月氏。
大月氏并未能久居伊犁河谷，冒顿单于死去后，儿子老上单于继位，这位匈奴新君迫不急待地要向世界证明他是冒顿王骨血的延续，他身上征服者的血没有被稀释减少半分，他统领数十万控弦冲向伊犁河谷，杀尽月氏王金帐，生擒年迈的老王。得意的老上单于为了永久保留他的战利品，永享这份辉煌感，就砍了月氏王的头，用他的头骨做了一个精美的饮酒器，以后，匈奴历代单于们在盛大的祭祀活动中或庄严神圣的盟誓时，才用此器，其中的蕴意不言而喻。
在那次攻杀月氏的战斗中，乌孙也加入进来，当时，乌孙正臣服于匈奴，攻下月氏后，匈奴就慷慨地让乌孙留居伊犁河流域。而那些侥幸存活的月氏人则拼命向西逃去，沿着塞种人的逃路，向西南越过锡尔河，来到阿姆河北岸，疲惫不堪的月氏人整整用了20年的时间来养息自己，在阿姆河与克齐库姆沙漠之间的富庶草场上静静地舔吮伤口，张骞就在这时找到了月氏，他们已经重新推举了首领，养壮了马儿，喂肥了牛羊，整个部族又恢复了生气，已经在泽拉夫尚河中游的盆地上建都。他们不想与大汉联盟杀回故土，他们厌倦了杀伐，如果要战，那么只能是为了在这片肥沃土地上立稳脚跟而战。其后，月氏首领的孙子率部度过阿姆河，征服位于伊朗高原的希腊－巴克特里亚王国，（今阿富汗北部）张骞称该国为大夏。
大月氏定惧个属国。接着，像很多国家历史上发生的一样，五翕侯之一的贵霜翕侯开始了统一兼并的战争，获胜后建立强大的贵霜帝国，国土从阿姆河流域、科克恰河流域、瓦赫什河、克孜勒河等河流域，一直扩展到恒河河谷。月氏人定居后，逐渐放弃游牧，开始了农耕，修建发达的水利灌溉系统，城市商贸繁荣，因丝绸之路南北两道越过帕米尔高原后均入贵霜帝国境内，它必然是丝路上的咽喉之国。
看来丝绸之路还是蛮重要的。