高欢，鲜卑名贺六浑，自称是渤海人(今河北景县东)，因祖父犯法发配到六镇中的怀朔镇充兵户，“累世北边，故习其信遂同鲜卑”(《北齐书·神武帝纪》)。据史籍载侯景骂高澄(高欢长子)为“鲜卑小儿”(《北齐书·神武帝纪》);北齐文宣帝高洋(高欢第二子)问杜弼“治国当用何人”，弼对以“鲜卑车马客，会须用中国人”，高洋以为这话是讥讽自己的(见《北齐书·杜弼传》);又隋费长房《历代三宝记》卷9云:“高洋武川镇虏”(武川当作怀朔)；《隋书·五行志》云:“齐氏出自阴山，胡服者，将反初服也”，这些记载可证实高氏为鲜卑族人。但其祖父犯法发配到六镇，可能是事实，因此高欢生于六镇兵户之家。而自魏孝文帝迁都洛阳之后，六镇军事上的地位逐渐下降，即使高门子弟，也“役同厮养”，何况高欢祖先是犯法配户，他们的生活，当更为惨苦。欢娶匹娄氏(鲜卑族人)为妻，匹娄氏家富于财，高欢结婚后才得到一匹马，镇将就提拔他任“队主”，改任“函使”。“函使”是负责把怀朔镇的公文送往洛阳的小军官，他任“函使”达六年之久，常至洛阳，对当时洛阳的腐败政治，知道得比较清楚。六镇起义后，他也和六镇其他的下级军官一样，参加过破六韩拔陵、 杜洛周、葛荣等的起义队伍。不久他就背叛了葛荣，投奔到北秀容川契胡族酋长尔朱荣那里去，尔朱荣以高欢为亲信都督(卫队长)。尔朱荣举兵入洛阳把持北魏政权后，出兵镇压河北起义军，利用高欢过去在河北起义军中的关系，就派他去进行分化工作。高欢就把起义军中七个称王的将领和一万多军队拉到政府那儿来，又和元天穆一起率兵去镇压山东以邢杲为首的起义军， 击破了邢杲的起义队伍，以功累迁第三镇民酋长(鲜卑族人才授此官)、晋州(治白马城，今山西临汾)刺史，成为尔朱荣部下的得力将领。
尔朱荣为北魏孝庄帝元子攸所杀，尔朱兆起兵赴洛，高欢借故留在晋州，曾引起尔朱兆的不满。其后河西牧子费也头纥豆陵步藩南下，欲袭取晋阳，兵势甚盛，高欢和尔朱兆联兵击破步藩，两人重又和好。河北大起义失败后，三州六镇兵民流亡到并州一带的有一二十万人，尔朱兆就命高欢去统率他们。因并州一带连年霜旱，粮食发生困难，三州六镇兵民“皆面无谷色”。高欢得到尔朱兆允许，带领他们去山东“就食”。高欢掌握了这十多万三州六镇兵民，他就有了当时最雄厚的政治资本。