乌孙原来和大月氏都居住在我国河西走廊的祁连、敦煌间，约在公元前139年左右，由于受到匈奴的压迫，开始和大月氏先后向西迁徒，大月氏迁徒更远，乌孙迁移到今伊犁河和伊塞克湖一带。“地莽平多雨寒，山多松横。不田作种树(种植)，随畜逐水草。”“国多马。”乌孙王称大昆弥，“都赤谷城(今吉尔吉斯斯坦伊什提克)”。在西汉时，乌孙有“户十二万，口六十三万，胜兵十八万八千八百人”(《汉书·西域传》)。汉武帝曾两次把公主嫁给乌孙大昆弥。
到了南北朝时期，乌孙国都虽仍在赤谷城，但“其国数为蠕蠕(柔然)所侵，西徙葱岭山中，无城郭，随畜牧逐水草”(《魏书· 乌孙传》),已经远不如西汉时期那样强盛了。北魏太武帝太延三年，北魏派遣使者董琬等到达乌孙，代表魏帝赠送锦帛等礼品。乌孙王“得魏赐，拜受甚悦。谓琬等曰:‘传闻破落那(大宛)、者舌(康国)皆思魏德，欲称臣致贡，但患其路无由耳。今使君等既到此，可往二国，副其慕仰之诚。'琬于是自向破落那，遣[高]明使者舌，乌孙王为发导译，达二国”。“已而琬、明东还，乌孙、破落那之属，遣使与琬俱来贡献者，十有六国。自后相继而来，不间于岁。”(《北史·西域传》序)
到了西突厥强盛时期，乌孙的境界就更加蹙小。不过到了辽太宗会同元年(公元938年)，还有乌孙遣使来辽馈赠方物的记载。大概这时乌孙只是一个人数很少的部落而已。