别选的奏章，各自立了题目，当时称《山公启事》。

山涛在朝官任要职，晚年遇上后党专权，不想任用杨氏，山涛多次劝谏，皇帝虽然明白却不能改。后来因为年老衰病重，上疏告退说：“我年近八十岁，每天在保命，如果稍有力，我岂会在这圣明的时代不力。被年老所迫，不再任职。如今四海休养生息，天下思慕教化，使他们清静，百姓自然归于正。衹要崇尚风俗教化来敦促他们而已，陛下还有什么事可。我耳聋，不能自励。君臣父，没必要掩饰，因此陈述我的想法，乞求听从我的请求。”于是脱下官服，上印绶。诏书说：“天下事多，加上呈厘刚被平定，百事草创，应当共同尽心推行教化。你不记以往而因小病请求退职，难是我所期待的我尚且在等待贤臣，不能百事不，你怎能不委屈自己而效力呢应当推崇至公，不要再上表请求告退。”山涛苦苦上表请求退休，诏书又不许。尚书令堑堕上奏：“山涛因为小病，长期不就职。皇上频频下手韶，仍不听从。臣认为这是没有节，违背了一心为公之义。如果真是病重，也不宜居位。可以免去山涛的官职。”下韶书给蛮堕说：“山涛德行一向为朝廷所重，而常切地退让，十分恳切。因此接连有诏书，务必改变他的想法，来辅佐朝廷。主事的人既不清韶书旨意，反而加诋毁，损害了崇敬贤人的风气，从而加重了我没有德的名声，怎么向远近示范呢!”山涛不得已，又上任理事。

太康初年，升任右仆，加光禄大夫，侍中、掌铨选的职位依旧。山涛因为年老有病决推辞，皇帝下手韶说：“你以德成为世人的楷模，况且从先帝起就欣赏你远大的志向。我将仰仗你来使风俗清明，为什么想远离朝政，而仅使自己的志向洁呢我至诚之心情难还不足以让你明白吗，为什么还要推辞呢。应当及时奋发，满足期望。你不收回推辞之心，我不能安卧。”山涛又上表决推辞，不允许。

吴平定后，皇帝下诏书停止军役，以示天下太平，州郡全撤去军队，大郡设置一百名武吏，小郡五十人。皇帝曾在宣武场讲武，山涛当时有病，下韶书让他乘轿跟从。于是与卢钦议论用兵之，认为不该撤去州郡的武备，他的言论很当。当时都认为山辽不学彊膑、呈垄，而暗中与他们相合。皇帝称赞他说：“这是天下名言。”然而不被采纳。丞窒之后，屡次发生战，盗贼突起，郡国都因为没有武备而不能抵御，天下由此大，正如山涛所说的那样。

后来任司徒，量盏又决推让。诏书说：“你德望重，是朝中有名望的元老，因此授予你宰相的位，而过于退让，以至于反复多次，确实令人难过。你应该始终效力于朝政，辅佐我。”山涛又上表说：“我为本朝服务三十多年，最终没能对发扬教化丝毫贡献。陛下无限地偏向我，授我三司的职位。我听说德薄官，能力小担重任，上有不能胜任而败坏国事的凶险，下会给家族带来灾祸。愿陛下赐我几代之恩，乞求让我告老还乡。”诏书说：“你辅助朝政，安定皇室，匡佐的功勋，是我所依赖的。司徒这个职位，实际上掌国家教化，因此敬授予你，来满足大家的期望。怎能用退让来压抑贬损自己呢!”下令不再让他上奏章后，派人在山涛病榻上加授印章绶带。山涛说：“快死了的人，怎么能玷污官府呢!”带病乘车回家。在太康四年去世，时年七十九岁。下韶赐他贵棺木、朝服一、衣一、钱五十万、布百匹，作丧事之用，下策书迫赠他为司徒，赐印紫绶，侍中貂蝉，新沓伯印青朱绶，用太牢祭祀，谧号康。将要下葬，赐钱四十万、布百匹。左长史范晷等人对皇上说：“山涛的旧宅第有十间房，孙住不下。”皇帝为之建造房屋。

起初，山涛是平民，家中贫困，对妻韩氐说：“忍耐饥寒，我以后将三公，不知你能否当公夫人!”荣华富贵以后，忠诚谨慎俭约，虽然爵位如同诸侯，然而没有纳妾。俸禄赏赐，散发给了亲朋故旧。

起初，陈郡人袁毅曾任鬲令，贪污而且贿赂公卿，以此求得虚名，也送给山涛一百斤丝，山涛不愿异于时人，接受了丝而收藏在阁楼上。后来袁毅的事败，被押槛车付廷尉，凡是接受贿赂的人，都受到追究。山涛便取丝给官吏，多年的尘埃堆积，印封都没开启。

山涛喝酒喝到八斗方醉，皇帝想试试他，准备了八斗酒让他喝，而暗中又增添他的酒，山涛喝到自己的极量就不再喝了。有五个儿：山该、山淳、山允、山谟、山简。

山该字伯，继承父亲的爵位，官作到并州刺史、太左率，追赠长校尉。山该的儿山璋字彦祖，任翊军校尉。次山世回，任吏郎、散骑常侍。山淳字玄，不官，山允字叔真，任奉车都尉，两人都有驼背之疾，个也很矮，然而聪明过人。武帝听说后想见他们，山涛不敢拒绝，去问山允。山允自认为驼背个矮，不肯去。山涛认为他们胜过自己，于是上表说：“我两个儿弱多病，不与人来往，不敢接受诏命。”山谟字季长，聪慧有才智，官作到司空掾。

山简字季。情温文尔雅，有父亲的风度，年龄二十多岁，山涛不了解他。山简叹息说：“我快三十岁了，而不被家父了解!”后来与谯国人嵇绍、沛郡人刘谟、弘农人杨准都有名望。起初任太舍人，多次升官任太庶、黄门郎，任青州刺史。召朝为侍中，不久，转任尚书。历任镇军将军、荆州刺史，兼南蛮校尉，未赴任，又任尚书。光熙初年，转任吏尚书。永嘉初年，任雍州刺史、镇西将军。召朝任尚书左仆，兼吏。