黄河溺死。这时，又有朝臣一百多人随后来到，在河堤东面被包围。军士们利刃，尔朱荣声说“：能够写传位诏书的人站来，可以给你活命。”当时，有陇西人李神俊、顿丘人李谐、太原人温升，都是当代的文章手，被包围在当中，因耻于这件事，便俯伏在地上不答应。御史赵元则，怕会被杀戮，来起草传位的禅文。尔朱荣又命人告诫将士们，说元氏就要灭亡，尔朱氏即将兴起，大家都要喊他万岁。他便用金属铸造自己的像，四次都没有成功。此时，他所信赖的幽州人刘灵助善于占卜，说今天时机还不成熟。他便说：“如果我当皇帝不吉利，当迎立尔朱天穆。”灵助说：“天穆也不吉利，惟长乐王有称帝的兆。”尔朱荣听后神恍惚，不能自持，又惭愧又悔恨，到四更天时，又请孝庄帝，跪在孝庄帝的前叩请死。他的三千多骑兵因滥杀朝臣，便不敢京城，想向北作迁都的打算。徘徊迟疑一天，才护卫着皇帝的车驾向洛发。登上邙山，看到城门，又心怀畏惧，不肯再向前走。武卫将军泛礼苦苦劝告，他也不听。又向前行，城后，也不朝拜皇帝，保卫京城。跟从他北边来的人，都骑着殿。朝廷公卿大臣死的死，逃的逃，朝堂站班也没有了次序。孝庄帝左右只有数名旧臣。尔朱荣仍然持迁都的意见，孝庄帝也无法抗拒。他又在明光殿重新对河桥滥杀之事向朝廷谢罪，发誓说自己不再有二心。孝庄帝站起来劝止他，也向着他发誓，说自己没有任何疑心。尔朱荣兴，因而举杯饮酒，等到他醉倒后，孝庄帝想杀掉他，左右的人苦苦劝阻才停止，便把尔朱荣睡的床抬到中常侍省。他到半夜才醒酒，到天明也不敢睡，从此不再在中住宿。

他的女儿原为孝庄帝的嫔妃，想立为皇后，孝庄帝迟疑未决。给事黄门侍郎祖莹说：“过去文公在秦，怀赢奉父亲秦穆公之命嫁给他。事情都有违反常情而又合乎理的，陛下您为何再迟疑呢？”孝庄帝同意立尔朱荣的女儿为后，他非常兴。

这时，人们有的传说着尔朱荣想迁都晋，有的说他想纵兵大肆掳掠，人人惊恐不安。京城中的读书人十不存一，相率逃跑，没有人敢来。全城守卫空虚，官衙内空旷荒废。尔朱荣听说后，上书向朝廷谢罪。无上王上表请求追尊先帝庙号；死去的各王和刺史，请赠给三司；位列三品的官员，请赠给令仆；五品的官员，赠给方伯；六品以下以及不在品位的，赠给镇郡。那些被杀害的官员如无后代，听凭其他人继承，都授予封爵。据地位的低、官阶的大小，使恩德施加在每个生者和亡者的上，以便使他们得到抚。朝廷下诏他们的表章办理。无上王又启奏孝庄帝，派使者到京城各安抚问，人们的情绪因此稍微安定了一些。逃亡的朝臣也渐渐归来。尔朱荣又奏请朝廷，让朝臣们当值，每月的初一和十五，召见三公、令、仆、尚书、九卿，以及司州牧、河南尹、洛、河执事等官员，参与讨论国家大事，并作为制度固定下来。

这年五月，尔朱荣回到晋，便命元天穆京，任侍中、太尉公、录尚书事、京畿大都督，兼领军将军，封为上党王。他还在各个职务上安心腹，朝廷的一举一动，都要据他的意思去办。七月，朝廷加封尔朱荣为国大将军。

这时，葛荣领军向洛发，号称有百万之众。相州刺史李神俊闭门自守，不阻拦敌人。尔朱荣率领锐骑兵七千，每个骑兵有两匹，倍兼行，东滏，拦击葛荣。而兵力却与葛荣众寡悬殊。葛荣听说后喜形于，便令他的士兵置办长绳，尔朱荣的骑兵来了便将他们捆起来。自邺城以北，列阵数十里，像簸箕一样摆开阵势前，尔朱荣暗中在山谷中埋伏军队作为奇兵，将督将以上职务的军官三人分为一，每率数百名骑兵，让他们指挥士兵在驻扎的地方擂鼓呐喊，扬起尘土，使敌人测不有多少人。又派一支人攻敌兵。战时，刀不如好用，他密令军士上各准备一木。战以后，考虑便于冲破敌阵，不让骑兵斩掉敌人的首级，只抡起打就行了。又命令勇壮骑兵，奋勇冲击。他号令严明，将士上下一心，一起拼杀。他也亲自冲敌阵，现在敌兵的后队，与前面的军队前后合击，将敌兵打得大败。在战场上活捉葛荣，其他人全投降。尔朱荣怕这些投降的将士心存疑惧，便下令让他们各自从事自己愿意的职业，亲属们也可以跟着，任意挑选居住的地方。于是，大家都很兴，立即四散去。数十万人，一下全解散。等到散去的士兵走一百里之外，才分遣送，遇到合适的地方就安置他们居住，这些人都得到满意的住。俘获的敌兵将领，也都量才使用，新归附的人都很安心。人们都佩服他置得正确迅速。他又派囚车将葛荣送往洛，朝廷下诏加封他为大丞相、都督河北畿外诸军事。

尔朱荣开始讨伐葛荣时，军队到达襄垣，便大举围猎。有两只兔在前面奔跑，他弯弓立誓说：“中了就能捉住葛荣，不中就抓不住。”说完两只兔应弦扑地，三军将士十分腾。后来，他命在这里立碑，取名叫双兔碑。将要开战的前夜，他梦见一人向葛荣索要刀，葛荣开始不肯给，此人自称是武皇帝，葛荣才把刀，这人又将刀授予他。睡醒之后他很兴，知这一仗一定能获取胜利。

朝廷又下诏把冀州的长乐、相州的南赵、定州的博陵、沧州的浮、平州的辽西、燕州的上谷、幽州的渔七郡，各分一万，加上原来的共十万，作为太原国的封邑。又给他加位为太师。