轻财重友，被豪侠们所尊崇。两炯炯有神，长脖颧骨，齿白如玉石，少有的俊杰伟人风度。家境贫寒，到与武明皇后行定婚礼时，才开始有，当兵镇了队主。镇将辽西人段长时常惊叹神武帝的容貌，对他说：“君有济世安民之才，不会虚度一生的。”并且将孙托付给他照顾。当神武大富大贵之时，追赠段长为司空，提他的儿段宁了官。神武帝从队主升任函使。有一次乘驿经过建兴，这里顿时云遮雾障，随之雷声隆隆，许久才停息下来，好像是神灵在相互应和。每当他骑上路，去去来来却没有风尘升腾。又曾经梦见自己穿着很多星辰成的鞋在赶路，醒来时暗自兴。了六年的函使，每次到洛，都被令史麻祥驱使。祥曾经让神武吃，神武没有站着吃的习惯，便坐下来吃了。祥认为神武坐着吃是大不恭敬，用鞭狠狠地将他打了四十多下。从洛回来后，神武倾尽所有来网罗人才，亲戚朋友无法理解这行为，就向他打听。神武回答说：“我到洛，看到宿卫、羽林的兵士接连几次放火焚烧领军张彝的住宅，朝廷害怕兵变不敢惩办凶手，像这样执掌国政，事情的结果就可想而知了。钱财品难可以永远归自己所有？”从此开始，便有了澄清天下的志向。同怀朔镇省事云中人司如、秀容人刘贵、中山人贾显智成了奔走之友，怀朔镇曹史孙腾、外兵史侯景也成了神武的好朋友。刘贵搞到过一只白猎鹰，和神武以及尉景、蔡俊、如、贾显智等一块到沃野打猎。看见一只赤兔，纵鹰追赶，兔却逃跑了，他们循着兔跑的方向，追到了泽之中，泽里有座茅屋，兔、鹰正想跑去的时候，有条狗突然从屋里冲了来，咬死了赤兔白鹰。神武见此大怒，用响箭死了狗。见狗被杀，屋内一下两个人，抓着了神武的衣领，扭着不放。这两个人的母亲双目失明，拖着拐杖喝斥：“为何犯大家？”令二取瓮中好酒，杀猪宰羊，盛情款待神武一行。又自称会相面，将来人一一抚摸，结论都是大贵之相，不过，均得由神武统领节制。还说：“司如居官显赫，贾显智却不能善终。”饭毕门，行了几里地后再返原地时，哪里还见人烟屋舍，原来那老妇是个神灵仙人。因此，朋友们越发尊崇神武。

孝昌元年(525)，柔玄镇人杜洛周在上谷扯旗造反，神武便和志同合者参加了他的队伍。由于瞧不起杜洛周的行事，私自与尉景、段荣、蔡俊等谋划，试图杀死杜洛周，没有成功，而遭杜氏的骑兵追捕。文襄帝及魏永熙皇后两人年纪都小，武明皇后坐在背上抱着这两个孩。文襄几次从背上落下来，神武准备死这个儿好快些逃走。武明皇后恳求段荣救助，多亏段荣夺下神武手中的弓箭，文襄才幸免于死。神武投奔葛荣，又逃亡到秀容，归顺了尔朱荣。早些时候，刘贵服事尔朱荣，极力赞誉神武之，此时才得见面，由于疲劳憔悴，没有引起尔朱荣的惊奇。刘贵便帮神武更衣换鞋，又一次见了面。继而跟着尔朱荣到了厩，厩中关着匹烈，尔朱荣命令神武将它绑缚起来。神武未用络就捆绑住了，而且一直是服服贴贴的。完事后，站起来说：“制服恶人就像降服这匹一样。”尔朱荣便请神武坐于椅上，摈除左右向他请教时事。神武说：“听说您在十二座山谷里喂养着匹，以的颜划分为群，如此有何用意？”尔朱荣说：“你尽谈你的见吧。”神武说：“当今天愚笨懦弱，太后，小人专权，朝政混，以您的雄才武略，乘此良机作为一番，讨伐郑俨、徐纥，清除帝侧，成就霸王之业不过是举手之劳。这便是我贺六浑的看法。”尔朱荣大喜过望，从中午一直谈到夜，神武才告辞离去。从此之后多次参预机密。后随尔朱荣移据并州，扬州邑人庞苍鹰宅，住在圆形草屋中。每次从外边回来，即使他还在很远的地方行走，屋主人都能听到十分响亮的脚步声。苍鹰的母亲多次看到草屋上赤气冲天。有次苍鹰打算潜神武的草屋，却被一执刀的青衣人拦住，叱问：“为何犯大王？”说完，便没了影。苍鹰开始惊异了，曾密密地窥视，只见一条赤蛇蟠卧在床上，因而更加惊讶。于是宰割，以厚礼相待。苍鹰之母请求神武自己的义。到神武得志，将苍鹰的住屋作为寝，唤作“南宅”宽门大，屋室敞，他曾经居住过的茅草屋，其墙则用石灰涂抹，认真加以保护，到文宣帝时便成了殿———不久，尔朱荣便任命神武了亲信都督。

此时，北魏孝明帝不满郑俨、徐纥等人迫灵太后的行为，但却不敢下诏制裁，就偷偷下令尔朱荣举兵围攻都城。尔朱荣指派神武为前锋。军队抵达上党，明帝又秘密下诏，命令停止前。到明帝突然驾崩时，尔朱荣才举兵洛，准备趁机篡政。神武谏，怕他不听，就请铸铜像卜其吉凶，铜像没有铸成，因此尔朱荣也就停止了篡权活动。魏孝庄帝即位，由于定策的功劳