装作没有听见而走过去。同僚们愤愤不平，询问那个人的姓名，吕蒙正急忙制止说：“如果知他的姓名，就会终不能忘记，不如不知为好。”当时人都佩服他的度量。

李日方被罢免宰相后，吕蒙正被任命为中书侍郎兼尚书、同平章事、监修国史。吕蒙正为人厚宽容，有很名望，以守正自律。遇事敢来讲话，每次讨论时政，有不公允的，一定持反对意见，皇上赞许他能无所隐瞒。赵普是开国元老，吕蒙正是后来提升的官员，历任各官职十二年，于是同任宰相，赵普很赞许他。不久，遭母丧，守丧未满三年，被重新起用。

先前，卢多逊任宰相时，他的儿刚仕就授官员外郎，后来就当作常例。到现在，吕蒙正上奏说：“臣士及第，仕时只授为九品京官。况且天下有才能的人，终隐居于山林，没有得到朝廷丝毫俸禄的人多得很。现在，臣儿刚成年，获此任，恐怕遭到上天谴责，请求以臣刚仕时的官职补任他。”从此宰相的儿只授给九品京官，成为法定制度。

朝臣中有位收藏有古镜的人，自称此镜能照二百里范围的景，想献给吕蒙正以求任用。吕蒙正笑说“：我的面不过碟那么大，哪里用得上照二百里的镜呢？”听说的人都叹服。

淳化年间，左正言宋沆上奏疏违逆皇上旨意，宋沆是吕蒙正妻的族人，因此而罢免吕蒙正吏尚书一职，又任用李日方为宰相。四年(993)，李日方被罢免宰相，吕蒙正又以本官任宰相。与皇上奏对时，谈到征伐之事，皇上说“：朕近来的征讨，是为百姓剪除凶暴，如果好功黩武，那么天下百姓都灭尽了啊。”蒙正回答说：“隋、唐数十年中，四次征讨辽碣，百姓疲乏不堪。隋炀帝全军覆没，唐太宗运去土木攻城，这样最终没有成功，况且治理国家的重，在于国内勤修政事，那么远方之人必来归服，自然会得到安宁。”皇上同意他的意见。

皇上曾经在元宵节主办宴会，吕蒙正侍奉，皇上对他说：“五代的时候，生灵凋丧，周太祖从邺南归，官吏和百姓都遭到抢掠，下则有火灾，上则彗星现，观者惊恐畏惧，当时认为天下再也没有太平日了。朕亲自总揽政事，万事大致得到治理，每当想到上天的赏赐，导致这样繁荣昌盛，就知国家的治理与混在乎人为。”吕蒙正离开坐位说“：皇帝所在之，百姓都到此聚集，所以繁盛至此。臣曾经看到城外不数里之地，饥寒而死者很多很多，不是都像城里这个样。希望陛下从近看到远，才是百姓的幸福啊。”皇上脸上变不说话。蒙正凛然回到座位，同僚们赞许他的刚直。

皇上想派人使朔方，命令中书省选择有才能而可以担负重任的人，蒙正退朝后，上奏人选名字，皇上不批准。后来，皇上三次问到此事，蒙正三次以此人作答。皇上说“：卿为什么这么固执呢？”吕蒙正说：“臣不是固执，而是陛下不能察谅解啊。”再次说：“这个人可以任用，其他的人赶不上他。臣不愿用阿谀献媚盲目听从皇上的意见，以致耽误国事。”同僚们屏气不敢言。皇上退朝后对边的人说“：吕蒙正的气量是我不如的啊。”后来还是任用蒙正推荐的人，这个人果然称职。

至初年(995)，诏令吕蒙正以右仆份任河南府通判兼西京留守。吕蒙正到洛后，常常招引亲戚故宴，政事主张宽静，委任僚属，政事自己只总裁决而已。

真宗即位，迁吕蒙正为左仆。遇到朝廷营建奉熙陵，吕蒙正追忆先朝所给予的优厚的恩遇，贡献家财三百多万作为营建经费的补充。太宗下葬那天，吕蒙正伏地哭泣极尽悲哀，人们认为合大臣之礼。咸平四年(1001)，朝廷诏令吕蒙正以本官同平章事、昭文馆大学士。本朝以来三次任为宰相的，只有赵普和吕蒙正两人。郊祀礼后，加封为司空兼门下侍郎。六年(1003)，授给他太太师一职，封为莱国公，改封徐国公，又封为许国公。

景德二年(1005)天，吕蒙正上表请求辞官回洛。到朝廷告辞那天，坐轿到东园门，命令他的儿扶着他到殿，对皇上说：“对远方的人要和平共，停止战争节省财用，是古往今来的治国上策，希望陛下经常替百姓着想。”皇上赞许并采纳他的意见，于是升任他的儿吕从简为太洗，吕知简为奉礼郎。吕蒙正在洛，有园亭木，每天与亲戚朋友宴会，孙环列，经常向他敬酒祝寿，怡然自得。大中祥符以后，皇上朝拜永熙陵，封禅泰山，祀祠后土，经过洛，两次到他家，赏赐给他很多财。皇上对吕蒙正说：“卿的几个儿谁可以重用？”蒙正回答说“：我的几个儿都不足任用。臣有个侄儿叫吕夷简，现任颍州推官，有宰相的才能。”夷简从此被皇上知。

有个叫富言的人，是吕蒙正的宾客。一天告诉蒙正说：“我的儿十几岁，想让他书院，事奉廷评、太祝。”吕蒙正答应了他。见面后，惊叹说：“这个儿将来名位与我相似，而功勋事业远远超过我。”令他与自己的几个儿同学，供给很优厚。富言的儿就是富弼。后来富弼两次任宰相，也是以司徒退休。吕蒙正善于识人才就是这样。

许国公的封命刚下来，吕蒙正就逝世了，终年六十八岁。追赠中书令，赐谥号为文穆。