宇文泰，字黑獭，鲜卑宇文部人，祖籍武川（今内蒙古武川）。宇文泰的先祖出身于南匈奴，其中有一人名为葛乌莵，统一十二部落，从此世代为部落首领。葛乌莵的后代普回在打猎时捡到三枚玉玺，印有“皇帝玺”三字，因部落习俗称天为宇，称君为文，因此普回自号为宇文国，并以宇文为姓氏。 普回的后代侯豆归统治期间，部落被后燕的慕容皝所灭，侯豆归的儿子宇文陵在后燕做官，官授驸马都尉，被封为玄莵公。后燕被攻灭后，宇文陵率兵归顺北魏，赐爵安定侯。其后，宇文陵徙居代郡武川（今内蒙古武川），在此世代居守。宇文陵生子宇文系，宇文系生子宇文韬，宇文韬生子宇文肱，是为宇文泰之父。北魏正始二年（公元505年），宇文泰生于武川。 北魏孝昌二年（公元526年），怀朔（今内蒙古固阳）镇兵鲜于修礼起义，宇文泰一家也参加了起义军。在起义过程中，宇文泰之父宇文肱在行军途中被北魏官兵杀害。宇文泰与兄长宇文洛生幸免于难，进入鲜于修礼军中。鲜于修礼死后，宇文泰和宇文洛生几经周折，跟随北魏将领尔朱荣征讨。因尔朱荣的手下贺拔岳与宇文肱关系亲密，因此宇文泰被收编在贺拔岳军中。
