将均战死沙场，如若还要论二将之罪，怎么能劝后来之人。”孝宗曾告谕臣僚说“：王淮事公，人无间言，任免选派官员都能很好地遵守规章制度。”王淮推荐军帅吴拱、郭田、张宣。王淮官拜同知枢密院事、参知政事。

当时宰相位空缺很久，王淮与李彦颍二人共同行使宰相职权。王淮说“：选择官吏，当以是否贤达为标准，不要计较以前的形迹。真是贤才，我亦不敢因为是同乡故旧而废弃；若无才能，我也不敢因与自己有私而荫庇。”皇帝认为很对。王淮被提升为知院事、枢密使。孝宗认为武将祠禄官名额应当减少，王淮提异议，他指：“立有战功之人，壮年加以使用让其为国力，年龄大了将其抛弃不，这怎么可以呢？”赵雄说：“从金朝归附的人，给以员外份安置，应当令他们去吏报到，再加以安排。”皇帝说“：姑且惯例办理。”王淮回答说“：皇上的意思即是天意。”赵雄又上奏说“：宗室祠禄名额为八百员，应当罢去。”王淮表示反对，他说：“尧亲睦九族，在普遍百姓之先；疏远骨之恩，可以吗？”其时辛弃疾平定了江西寇贼，王佐镇压了湖南寇贼，刘火享平息了广西寇贼，王淮均置得当，论功行赏公正无私。孝宗表扬王淮，对他说：“陈康伯虽有声望，事则不如卿。”

八年，王淮官拜右丞相兼枢密院事务。在此之前，自初夏至秋，长时间旱，拜相当天，大雨如注，士大夫竞相庆贺，皇帝也很兴，认为任相得人，老天知而下雨，于是下令免除各地绢钱、人税一年，合计缗钱达八十余万。

赵雄被罢相，蜀地在朝廷任职的官员很不安，都打算离职。王淮对孝宗说：“这是唐末党祸胚胎，难是太平盛世所应有。”蜀士都依次晋级，人心这才安定。枢密都承旨恃胡作非为，王淮极力陈述他的罪过，并且说：“皇帝受到非议，大多是由于受人作恶所致。”孝宗立即将王扌卞罢免，并说：“丞相正直诚实，谈论无所隐讳，君臣之间就应该这样。”章颖上书论事疏狂直率，皇帝很生气，打算将章颖贬官，王淮不同意，他说“：陛下喜听真话，士大夫就以敢讲真话相标榜，这士风值得庆贺。贬斥章颖正好成就了他敢讲真话的名。”皇帝听后很兴，章颖被留任。

当时以荒政为急务，王淮说：“李椿阅历又通晓人情世故，当让他镇长沙，朱熹忠厚老实，有学问有品行，应让他任浙东提举，以为郡国倡导。”事后论功行赏，皇帝说：“朱熹留意所事务。”王淮说“：实施荒政，这是行其所学，百姓得到了实惠，我想为他晋级。”皇帝说“：让朱熹升任直徽猷阁。”成都缺帅，皇帝人选，王淮举荐留正。皇帝问“：留正不是福建人吗？”王淮回答说：“立贤不论地域，商汤不偏不倚得很公平。一定要说闽地了章厚、吕惠卿那样的臣，同一地区不也了曾公亮、苏颂、蔡襄这样的贤臣吗？若说江浙多名臣，不也了丁谓、王钦若吗？”皇帝认为很对，王淮官拜左丞相。

天长县遭灾，七十多人家受害，有人说不必上奏皇帝，王淮说：“前人曾说皇上不可一日不闻旱盗贼，《论》曰：‘天下欠收，一定要先让皇帝知。’怎么可以不让皇帝知呢？”镇江饥饿百姓行向政府借粮，执政大臣请求严厉惩罚百姓，王淮说：“法令规定，饥民犯罪不至被死。”八名士请求用免举恩数晋级，王淮回答说：“八人得到后，则会有百人援引为例。”龚颐以执政门客补官，请求去铨曹任职，王淮认为不可开此先例，予以拒绝。王淮曾说，放不羁，不循规矩的人，危急时刻会全力以赴，不惜舍，于是让周极任安丰军知军，辛弃疾任祠禄官。

王淮上书皇帝，决请求离职，孝宗让王淮以观文殿大学士判衢州。王淮拒不接受任命，改任提举霄。光宗即位，下诏征求即位之初治国对策。王淮认为应以尽孝德，奉天敬民，用人立政为本。生母去世，王淮以礼服丧。一天王淮生病，他对家人说：“《易》有六十四卦，我的寿命也是如此。”淳熙十六年(1189)王淮逝世。噩耗传至京师，皇帝十分悲伤，停止临朝视事表示哀悼，赠王淮为少师，谥号“文定”