于是君臣密谋要除掉尔朱荣。
元子攸借口自己喜得皇子骗尔朱荣进宫道贺。尔朱荣不疑有他，只带了几个随从进宫而来。
元子攸在殿中端坐。尔朱荣进来也不施礼大咧咧坐下，一抬头看见旁边有人持刀向他袭来。他反应很快，一个健步窜到元子攸身边。尔朱荣随身挎着腰刀，准备拿刀控制住皇帝当人质。但没想到元子攸早已准备好刀，就放在膝头。元子攸抽刀一挥便砍下了尔朱荣的脑袋。
元子攸对外宣布尔朱荣图谋不轨已被处决，同时宣布大赦，承诺只杀尔朱荣，不追究其他人，试图安抚尔朱荣一党。
但尔朱荣一党决意为尔朱荣报仇。汾州刺史、尔朱荣的堂侄尔朱兆率军杀往洛阳。徐州刺史、尔朱荣的堂弟尔朱仲远也起兵响应。
元子攸认为黄河天险能够挡住尔朱兆，集中兵力先对付尔朱仲远。没想到当时是冬季枯水期，黄河水深不及马腹。尔朱兆很容易就渡过了黄河。当天狂风大作，黄沙漫天，能见度非常差。尔朱兆的军队进了城一直杀到皇宫门前才被卫兵发觉。卫兵急忙搭弓射箭，但风实在是太大了，箭根本射不出去。卫兵于是一哄而散。
元子攸闻讯想跑，连马都找不到，被尔朱兆的骑兵捉住。
尔朱兆将元子攸活活勒死，并且将元子攸才两个月的孩子活活摔死。他纵兵抢掠皇宫，奸污元子攸的嫔妃宫女。
尔朱氏一党重立元宏的侄子元恭为皇帝。
但是尔朱氏弑君另立不被别人接受。幽州、东冀州（山东济南）、晋州（山西临汾）等起兵讨伐尔朱氏。时任晋州刺史的高欢被各路反尔朱氏武装推举为首领。高欢立拓跋焘的后裔元朗为皇帝，与尔朱氏立的元恭分庭抗礼。
北魏再次天下大乱。
尔朱兆率军进攻高欢。两军在广阿（河北邢台隆尧县）爆发激战。高欢以弱胜强打败了尔朱兆，俘虏尔朱兆的士卒五千人。随后，高欢乘胜攻克了邺城。
尔朱兆纠集关中的尔朱天光、洛阳的尔朱世隆、山东的尔朱仲远陈兵洹水（今安阳河）与高欢再次决战。
尔朱氏的军队有二十万。而高欢只有三万。高欢不仅再次以寡敌众，而且实力悬殊更大。
但是高欢浑然不惧，率军出城迎战，在韩陵山（邺城西南）依据山势布阵，以逸待劳，准备决战。决战之前，高欢让手下把牛车、驴车拴在一起堵塞退往邺城的道路，以示破釜沉舟，让将士们明白，只有取胜才有活的希望。
决战开始后，尔朱兆率先发起进攻，挥军猛攻高欢所在的中军，打算擒贼先擒王。高欢在尔朱兆的猛攻下步步后退。尔朱兆相信再加一把劲就能击败高欢。但他忽视了自己的两翼暴露在高欢左右两军的打击之下。高欢的左右两军同时发力，夹击尔朱兆。尔朱兆的阵型大乱，随即崩溃。
尔朱氏一派的大将贺拔胜（贺拔岳的哥哥）阵前反水，率部投降了高欢。尔朱氏士气大挫，无法再战，四散而去。
尔朱氏一派的大将斛斯椿也反叛尔朱氏，占据洛阳，将在洛阳城内的尔朱氏打包送给高欢。
532年，高欢入主洛阳。
高欢进入洛阳的第一件事就是改立皇帝。元恭是尔朱氏立的，不能要。元朗是自己立的，但不是皇室正脉，也不能要。他改立元宏的嫡孙元修为帝。
高欢自任大丞相、天柱大将军，取代尔朱荣成为北魏新的权臣。
元修虽然感激高欢立他为皇帝，但不希望做一个没有权力的傀儡皇帝。元宝矩、元亶[dǎn]等宗室亲王也不甘心让高欢垄断权力。斛斯椿、贺拔岳、贺拔胜等将军耻于在高欢之下。君臣很快秘密结成倒高欢联盟。
高欢在此期间一直在外面领兵打仗，清剿尔朱氏的残余势力。但朝内的动态高欢也不是一无所知。他也在暗中布置对付元修君臣。
秦州刺史侯莫陈悦本是贺拔岳的盟友。高欢将侯莫陈悦策反，让他诱杀了贺拔岳，然后派亲信侯景去接替贺拔岳的职务。但贺拔岳的部将拥戴夏州（陕西靖边）刺史宇文泰为主，赶走了侯景。宇文泰率军讨伐侯莫陈悦，杀了他为贺拔岳报仇，并且重新平定了关西之地。元修任命宇文泰为关西大都督、关西大行台（相当于中央西北局书记），负责关西军政。
元修跟高欢的矛盾自此表面化，由暗战转为明战。
元修调集斛斯椿、宇文泰、贺拔胜的军队北上晋阳讨伐高欢。高欢也不示弱，率军南下迎战元修。两军在黄河两岸扎营对峙。
斛斯椿军中有高欢内应。高欢在内应的帮助下偷渡黄河杀奔洛阳。
元修大惊失色，匆忙下令迁都长安。说是迁都，实际上是放弃洛阳出逃关中。他前脚刚离开洛阳，高欢就杀到洛阳城下。元修跟头轱辘逃入关中。宇文泰将元修接入长安。
高欢兵不血刃便占领了洛阳。他发现元修跑了，急忙率军去追，意图斩草除根永除后患。他攻破潼关，杀入关中。但这时贺拔胜出兵袭击洛阳。高欢担心腹背受敌，放弃元修返回洛阳。
高欢派侯景率军迎战贺拔胜。贺拔胜不是侯景的对手，被侯景打败后逃入南梁。
高欢宣布废黜元修，改立元宏的重孙元善见为帝。因为洛阳离关中很近，高欢觉得不安全，下令迁都邺城。
从此以后，高欢、宇文泰各拥一帝争战不休。北魏就由此分裂。因为一个皇帝在山东邺城立都，一个皇帝在陕西长安立都，一东一西，因此被分别称为东魏和西魏。
胡人的东魏、西魏和汉人的南梁三国鼎立，简称“胡汉三”。