东魏北齐的军队体制大体沿袭北魏，也分为中兵、镇戍兵、州郡兵三部分，但其军制也有自己的特点，这就是夷汉分兵制。 


    东魏北齐的开创者高欢在起事之初，赖以成事的都是鲜卑或鲜卑化了的其他少数民族和汉人。后来魏孝武帝西奔，随他入关的洛阳“六坊”鲜卑不过万人，其余的“六坊”鲜卑兵大都归了高欢。因此，东魏的军队主体是鲜卑兵，总数当在20万以上。高欢所采取的是以鲜卑人打仗，汉人务农纳粮的作法。当时，也有汉人兵，但与鲜卑兵分开，单立一军，由汉人统率。北齐时，文宣帝挑选鲜卑兵中勇力绝众者组成精兵，号称“百保鲜卑”。同时，“又简华人之勇力绝伦者，谓之勇士，以备边要”。后北齐又正式以汉人服兵役，仍取高欢时作法，以汉人兵单为一军。高欢在东魏任丞相时，曾于相府内设内、外二曹主管兵事，内曹是骑兵曹，掌中兵鲜卑兵事；外曹是步兵曹，掌外兵汉人兵事。北齐代魏后，相府诸司并于尚书，唯内、外二曹一度不废，改称外兵省、骑兵省，仍掌兵事。内、外二曹的设立，也是夷汉分兵制的产物。后来北齐尚书省中的五兵尚书所辖尚书郎，也分为掌中兵鲜卑兵事及外军汉人兵两部分。