一匹布要求调换人家八百只梨，因为这些大失人心。到拓跋焘的军队来时，于是迅速退兵，他手下的士兵逃亡死亡光了。萧斌要杀掉他，沈庆之说：“拓跋焘威震天下，率百万大军南来，王玄谟怎么能抵挡，杀掉自己的将领削弱自己，不是好计策！”萧斌才没有杀。当初王玄谟刚要被杀，梦到人家告诉他：“朗颂观音经一千遍便可以免除这个灾难。”醒了，朗颂它正好一千遍，明日他将被决，仍然朗颂不停。突然有人传呼停止行刑。他被派代替别人戍守石石敖。江夏王义恭，当征讨都督，认为石石敖不能防守，召他回来，他被魏军追击，王玄谟大败敌军，飞箭中他的肩膀。元嘉八年(431)正月回到历城，刘义恭给王玄谟写的信说：“我听说你反败为胜，肩膀上的金疮，未必不是金印的前兆！”

刘邵杀文帝时，王玄谟当冀州刺史。孝武帝讨伐刘邵。王玄谟派洛南太守垣护之率兵参加讨伐行动大事平定，调他当徐州刺史，加都督号，在南郡王刘义宣和江州刺史臧质造反时，朝廷暂任王玄谟辅国将军，拜官豫州刺史和柳元景共同向南讨伐。他的军队驻守梁山。夹着大江修成弯月形的堡垒。

不久又当豫州刺史，淮河域的亡命之徒，司黑石推举夏侯方当皇帝，改他的姓为李弘，用此蛊惑众人。王玄谟攻打并消灭他们，升官宁蛮校尉，雍州刺史加上都督，雍州的人多是北方迁来的侨居者，王玄谟请求以当地的地界为线划这些人为当地人。当时的百姓不愿属于当地籍贯，此事作罢，当年，王玄谟又叫九品以上的官员上租税，缩小穷富之间的距离。雍州境内的官员无不怨恨，民间谣传王玄谟想造反，当时柳元景正掌权，元景的弟弟僧景新城太守，柳僧景借助元景的声望，下令南、顺、上潘新城各郡同时调集军队讨伐王玄谟。王玄谟叫他手下的人安静不动，以解除众人的怀疑，又派人迅速向孝武帝报讯。陈述事情的来龙去脉，孝武帝知真情，迅速派主书吴喜公安他，又写信谈梁山的问题“开始时我并不在乎，君臣之间正应相互保护，你姑且开心一笑，让你眉开朗”王玄谟格严肃，从未轻笑，当时的人说王玄谟眉从来没有舒畅过。所以孝武帝用这来戏答，以后他又当金紫光禄大夫。兼任太常官职，创建明堂时，又以本官兼起尚书。再领北方人的选工作。

孝武帝亲近和侮辱群臣，据各人的相貌安排每人的外号，须多的人称他为羊，颜师伯缺几颗牙齿，称他为齿彦。刘秀之吝啬，称为老悭。黄门侍郎宗灵秀胖，朝拜起立不方便，每到君臣集会时，总是赐给他很多品。想叫他谢恩。拜跪时翻倒在地，作为笑话。又刻画木宗灵秀父亲光禄勋宗叔献像，送到他家厅堂正中树立起来，柳元景垣护之都是北方人。而只王玄谟被称为老伧。孝武帝的称谓在下给各地的文告都照样，有次孝武帝替王玄谟作了一首四时诗说：“堇荼供应季的饮，细粟的浆当夏天的餐，瓞瓜酱当秋天的菜羹，白醋解除冬天的寒凉。”孝武帝又一个山昆山仑隶，名叫白主，常常安排在左右，叫他拿拐杖打众大臣，从柳元景以下都遭到毒打。

王玄谟，不久升官平北将军，徐州刺史加上都督号。当时北方正在发生饥荒。于是他散发自家的谷十万斗，一千用来拯救饥民。又兼官领军将军。

孝武帝逝世，他和柳元景都接受临终托付。外面的军事事务委托王玄谟。当时朝廷权力自好几个人。王玄谟因为严肃刚正不被容纳。转官青州、冀州二州刺史，加都督号，前废帝已屠杀了颜师伯、柳元景等。犯一天比一天狠，又用领军将军的职号征调王玄谟。他的儿侄儿都劝他称自己有病，王玄谟说：“我蒙受先帝的大恩，怎么能怕灾难。”于是即日起程。到后多次上书谏劝说。又当面泪请求缓和刑罚不要屠杀，来安定天下人民，前废帝大怒。