西晋发生了八王内乱，匈奴五部见此开始有了叛乱之心，刘渊祖父同五部首领商议密谋造反，由于刘渊深得匈奴人支持，大家于是推选刘渊为大单于。司马颖在成都自立为王，被西晋讨伐，刘渊于是以援助司马颖为名回到了匈奴。司马颖放刘渊回去后，刘渊受到匈奴五部民众的拥护，自立称王，建立了汉赵政权。汉赵反过来攻击司马颖，攻占了邺城。