怎么办？”于谨说：“在汉、迺炫耀兵威，把军民财统统带上渡过长江，衹据守旦堤，这是他的上策；迁徙外城内居民，退守城，加女墙，等待外援，这是他的中策；如果难于迁徙，据守外城，这是他的下策。“星瑟俭说：“估计萧绎会用什么计策？”于谨说：“一定会用下策。”长孙俭说：“他放弃上策而用下策，为什么？“于谠回答说：“萧氏据守江南，经历了好几十年。正逢中原多事，没有顾得上向外经略。又认为我们有齐氏为患，一定分不兵力。而且萧绎怯懦无谋，多疑虑而少决断.愚民难以与之谋划事情的开始，都留恋城里原来的住宅，既然不愿意迁移，就得据守外城.所以说他会用下策。“于谨于是派中山公宇文护和大将军杨忠等人，率领锐骑兵先占据长江渡，切断梁逃的路。梁人在外城竖立木栅，周围六十里。不久于谨就到了，将军队全调来把城围起来。梁主多次派兵在城南战，立即就被于谨打败。围了十六天，外城陷落。梁主退守城。第二天，梁元帝率领太以下的臣民，反绑着手城投降，不久杀死了他。于谨俘虏了梁国男女十多万人，收缴了府库中的珍宝。得到宋的浑天仪、梁的晷铜表、魏的相风乌、铜蟠螭趺、直径四尺周围七尺的大玉和那些舆辇法都带回献上，军队没有私占财。立萧察为梁主，整顿队凯旋而归。太祖亲自到他的第宅，和于谨饮宴笑谈极为洽。赏赐于谨婢一千，还有梁的宝，以及金石丝竹乐一，另外加封新野郡公，邑二千。于谨决推辞，太祖不准许。叉命乐官作了十首《常山公平梁歌》，叫乐工歌唱.，

工谨白认为长期掌握权势，地位声望隆重，功名既已建立，情愿保住悠闲的生活，就把他所乘的骏和所穿的销甲等献上。太祖明白他的意思就说：“如今猾还没有平定，你岂能就独善其。“就没有接受。六官制度建立时，于谨任大司徒。

到太祖去世时，孝闵帝还幼小，中山公宇文护虽然接受了太祖的临终遣托，但名望地位向来低下，各位王公大臣们都图谋执掌朝政，没有谁肯顺服他。宇文护很是担忧，私下找于谨请教。工谨说：“我早就蒙受丞相的特别关怀，逭恩情和骨至亲一样。今天的事情，我一定会以死相争。如果面对众人确定国策，那您一定不要辞让。“第二天，各位王公聚集在一起商议。工谨说：“过去帝室倾覆危败时，人人企图问鼎。丞相立志匡扶拯救帝室，挥袖戈，才使国家的命运得以中兴，百姓得以安生。如今上天降祸，丞相突然离弃百官。嗣位的世虽然幼小，中山公则像他的儿那样亲，加上他亲自接受了太祖临终的委托，军国大事，理所当然应该归他掌理。“说的时候言语神严厉，众人都被震惊了。宇文护说：“这是我们的家事，我平时虽然平庸愚昧，但怎敢推辞。“于谨既和太祖的资历地位相等，字文护常对他表示礼貌尊敬。到这时，于谨就走上前说：“您如果统理军国大事，那我们这些人就有依靠了。“于是向宇文护跪拜了两次。王公大臣们受到于谨的迫，也跟着跪拜了两次，因此大家的意见才确定下来。

孝闵帝即位，于谨被封为燕国公，邑一万。升任太傅、大宗伯，和李弼、侯莫陈崇等人参议朝政。到贺兰祥讨伐吐谷浑时，于谨遥领军队，教授策略。

保定二年，于谨因年老，上表请求辞去官职。武帝下诏答覆说：“过去姜尚年过九十，召公奭几乎接近一百岁，都为王室效劳，自不息。如今元凶尚未铲除，九州还没有统一，正打算以您作为舟楫，广泛救助解脱艰难，岂能让您忘记姜尚召公二公的好情，而有这样的请求。我为此到惭愧。您如果再持谦逊，有关官员应当拒绝启奏。“