奔赴军中，在众人盛情推举下，就担当了军事重任。近来收到皇上的命令，召我回京，也收到另外的韶书，令你朝。虽然我的行默默无闻，但年龄已长。现在是是退，全看你的行动。如果你率领众，从山陇向东发，我也总领军队，从北回京。我们一起追效廉颇、蔺相如的事迹，共同仰慕寇恂、买复的遣风。如果你首鼠两端，不准时遵奉诏命，任意杀戮而违背圣旨，国家有一定的刑法，我们卧时枕戈坐时披甲，不久将相见。希望你考虑好利害关系，不要致使后悔不及。

侯莫陈悦既已害怕太祖图谋自己，就伪造诏书给秦州刺史万俟普拨，命他与侯莫陈悦互为朋党应援。万俟普拨认为可疑，封好诏书呈给太祖。太祖表奏朝廷说：“臣自接受诏命总领平凉的军队以来，到责任重大忧虑重，没有片刻安息闲暇的时候。训练军队喂养战，衹想竭尽全力为国。先前因为兵士眷恋故土，侯莫陈悦伺隙而动，我思量应当暂时留居此地。现在如果征召侯莫陈悦，授予他朝廷官职，臣整军束，就在朝夕之间。朝廷如果认为侯莫陈悦可以作为边疆的防御力量，就请将瓜、凉二州中的一个州分封给他。不然的话，终究会招致他的怀疑和忧虑，对于国事没有好。“

当初，原州刺史史归为贺岳所亲近信任，在河曲事变中，反而为侯莫陈悦效力。侯莫陈悦派他的党羽王伯和、成次安带兵二千人帮助史归镇守原州。太祖派都督侯莫陈崇率一千轻装骑兵袭击史归，捉住了他，并抓获了成次安、王伯和等人，将他们送到平凉。太祖上表让侯莫陈崇代理原州事务。万俟普拨又派他的将叱保洛带领二千骑兵前来投奔太祖军中。

三月，太祖军到达原州。各路军队全集结在那裹，太祖晓谕要讨伐侯莫陈悦的理，士卒无不怀义愤。太祖于是上表说：“臣听说誓死酬报恩惠，毁败宗族报效君主，这是人中最迫的事情，为此而应赴汤蹈火视死如归。自从大都督贺岳死后，臣多次接到诏书让我回京，我也喂饱战准备登程，不打算停留片刻。但是自督将以下的军士，都说贺公待我如亲生儿一样，如今仇耻还没有报复，又有什么面目存在世间，如果能一举洗除冤耻，我虽死一万次也不会遣憾。况且侯莫陈悦在外依附臣，在内违逆朝廷旨意。臣现在在上想完成驱逐邪恶的志愿。在下顺从节士的心愿，希望仰仗天威，为国除害。在小的方面有所违背，在大的方面却顺从圣意，实在是时机就在此时。等平定侯莫陈悦之后，我再敬候皇上的惩。“

夏季四月，左祖率军向陇地发，留下哥哥的儿宇文导为都督，镇守原州。太祖军令严明而有法度，一路上秋毫无犯，百姓都非常兴。有见识的人都知他会成功。大军走木峡关后，天下大雪，平地雪厚二尺。太祖知侯莫陈悦胆小而多疑，就兼程而行，使侯莫陈悦其不意。侯莫陈悦果然怀疑他的左右有心怀异心的人，他的左右也不白安，众因此离心。侯莫陈悦听到太祖大军将到，退守略，留下一万多人据守洛。太祖到达洛，命令围城，洛城守军投降。太祖就率几百轻装骑兵直扑略，直侯莫陈悦的军队。侯莫陈悦大为恐惧，就召集将商议。将们都说“这次来势锋锐不可抵挡”，劝侯莫陈悦退守上以躲避太祖。当时南秦州刺史李弼也在侯莫陈悦军中，就从小路派遣使者去太祖那裹，请求内应。当天夜裹，侯莫陈悦兵应战，军中自相惊恐溃，将领士卒有的相继来到太祖军中投降。太祖指挥军队奋勇击，大败侯莫陈悦，俘获一万多人，战八千匹。侯莫陈悦和他的弟及麾下数十骑逃走。太祖说：

“侯莫陈悦本来和曹泥互为应援，他不过逃往灵州罢了。“于是命令原州都督宇文导在前面拦截，派都督贺颍等在后面追击。宇文导到达牵屯山后追上了侯莫陈悦，杀死了他。太祖上鄞，收缴了侯莫陈悦的府库，财堆积如山，都用来赏赐给士卒，自己一丝一毫也不拿取。边的人窃取了一个银镂的瓮回家，太祖知后罚了他，随即将银瓮剖开分赐给将士，众人非常兴。

当时凉州刺史李叔仁被他的百姓捉住，整个凉州不堪。宕昌羌梁仑定引导吐谷浑侵犯金城。渭州及南秦州的氐、羌相互连结，在各自聚居地区纷纷叛。从南岐一直到瓜、鄯地区，跨州据郡的不可胜数.太祖就命令李弼镇守原州，夏州刺史也恶蚝镇守南秦州，渭州刺史可朱浑元仍旧镇守渭州，卫将军趟贵代理秦州事务。征收豳、泾、东秦、岐四州的粮来供给军队。

齐神武听说太祖在秦陇打了胜仗，就派使者到太祖那裹，用动听的言语和丰厚的礼来结太祖。太祖拒绝不予接受。此时齐神武已有叛逆的念，所以魏孝武帝十分依仗太祖，就向太祖征调二千骑兵来镇守束雍州，作为京师的声援，并叫太祖率领大军稍稍向东移动。太祖就派大都督梁御率步兵骑兵五千镇守黄河、渭河的汇合，作为取河东的打算。太祖在讨伐侯莫陈悦的时候，侯莫陈悦曾派使者向齐神武求援，齐神武派他的都督韩轨率兵一万据守蒲坂，而雍州刺史买显送船给韩轨，请求韩轨关。太祖藉梁御束的机会，就召贾显前来军中。梁御于是了雍州。

北魏孝武帝派著作郎姚幼瑜持节劳太祖军队，提升太祖为侍中、骠骑大将军、开府仪同三司、关西大都督、略县公，可以照皇帝授权封官拜爵，使持节照旧。于是太祖任命寇洛为泾州刺史，李弼为秦州刺史，前略郡守张献为南岐州刺史。卢待伯拒绝接受张献替代他的职务，太祖派轻装骑兵突袭并活捉了他，卢待伯自杀。