大夏赫连勃勃，匈奴族人。原是匈奴南单于的后裔。赫连勃勃的曾祖父叫刘虎，刘虎的祖父去卑是南匈奴的左贤王；刘虎的父亲诰升，为南匈奴五部帅之一的北部帅。诰升爰死，刘虎继承了北部帅的职位。北部帅统率匈奴四千余落，居住在新兴郡(郡治新兴，今山西忻州)虑虒县(今山西五台北)之北。刘聪建立匈奴王朝，刘虎以宗室的关系，被封为楼烦公、安北将军、监鲜卑诸军事、丁零中郎将，“雄据肆卢川(今山西忻州北七十里的云中河)"3,成为并州北边的一支重要军事力量。晋并州刺史刘琨曾联合拓跋鲜卑进攻刘虎，刘虎被击败，西渡黄河，退往塞外。刘虎死，子刘务桓代领部落。务桓(一名豹子)“招集种落，为诸部雄”(《魏书·铁弗刘虎传》)。石虎任命他为平北将军、左贤王、丁零单于。务桓子卫辰，是代王拓跋什翼犍的女婿。由于什翼犍屡次出兵袭击卫辰，卫辰乃改而归附苻坚。苻坚灭拓跋什翼犍后，分代国为二部，黄河以东的一部分，由刘库仁来督摄；黄河以西的一部分，由刘卫辰来督摄。苻坚并任命刘卫辰为西单于，督摄河西诸部，驻屯代来城(在今内蒙古鄂尔多斯东胜西)。淝水战后，刘卫辰势力发展，“遂有朔方之地，控弦之士三万八千"(《晋书·赫连勃勃载记》)。公元391年，北魏拓跋珪自五原金津(今内蒙古包头市西南)南渡黄河，直抵代来城，卫辰被部下所杀。拓跋珪杀卫辰子弟宗党五千余人，获马三十余万匹、牛羊四百余万头。
赫连勃勃是刘卫辰的第三子，辗转逃到高平川(今宁夏南部的清水河)，投奔后秦的高平公破多罗没弈千(鲜卑族)，没弈千把勃勃招为女婿。勃勃不久出仕后秦王朝为骁骑将军，姚兴非常器重他，对人说:“勃勃有济世之才，吾方收其艺用，与之共平天下，有何不可！”其后姚兴任命勃勃为持节、安北将军、五原公，配以三交(在今陕西榆林西)五部鲜卑二万余落，镇朔方。公元407年，勃勃率其众三万骑，伪猎于高平川，袭杀了岳父破多罗
没弈千，尽并其众。