河西，武功赫赫，升为北道都督。不久，魏王朝觉得这样能打仗的人不多，又封他为武卫将军，不久又加使持节、安北将军、都督恆朔讨虏诸军，进封博陵郡公，增邑五百户。
南征北战之中，人马不过一万的尔朱荣逐渐弄清魏朝的虚弱，了解到数以十万、百万计的王朝军队和作乱的乌合之众皆不堪一击。他转战至肆州时，刺史尉庆宾对尔朱荣又讨厌又害怕，紧闭城门不让尔朱荣入城。尔朱荣大怒，攻拨肆州，把自己的族叔尔朱荣羽生任命为刺史，把魏朝的刺史尉庆宾关押在秀容郡自己的地盘。这事如果发生在承平之时，是谋逆造反的大罪，但当时国内处处反叛，尔朱荣兵威又盛，魏朝也不敢责问，还又加他为镇北将军一衔。
鲜于修礼反叛消息传来，尔朱荣上表要求带兵东讨。朝廷大喜，加封他为征东将军，都督并、肆、汾、广、恆、云、六州军事，进阶为大都督，加金紫光禄大夫。等到魏朝反叛的鲜卑人葛荣军势隆盛时，尔朱荣害怕葛荣南逼邺城，上表要求出兵三千增援相州，肃宗没有答应。接着，他又上表要遣兵守滏口以防山东贼西逃，以胡太后为首的朝廷又不许。尔朱荣大怒，广招人兵，北捍马邑，东塞井陉，俨然已成一方军阀强梁。
肃宗孝明帝与母后胡太后闹僵，私下密诏尔朱荣进兵洛阳。尔朱荣大喜，立马起兵。走在半路，听闻孝明帝已经驾崩（年十九岁，被胡太后毒死）。兴头正盛的尔朱荣闻讯怒不可遏。他抗表朝廷，指责说：“……今海内糙糙，异口一言，皆云大行皇帝，鸩毒致祸。臣等外听讼言，内自追测。去月二十五日圣体康健，二十六日奄忽升遐。即事观望，实有所感……方选君婴孩之中，寄治辱报之日，使jian竖专朝，贼臣乱纪，惟欲指影以行权，假形而弄诏，此则掩眼搏雀，塞耳盗钟。……”