就心满意足了!”魏舒也不把这放在心上。不注重常人的节，不矜持自的事，经常想要包容才能崇尚人。始终不揭别人的短。生喜好骑箭，穿着苇衣，山泽，以捕鱼打猎为业。衹有太原王义对魏舒说：“你最终将成为宰相，然而如今不能让妻儿女免去饥寒，我应当帮你经营生计。”时常赈济魏舒的不足，魏舒接受并不推辞。

魏舒曾经去野王，房主人的妻夜裹生小孩，不一会儿听到车的声音，车上人相问说：“是男孩还是女孩？”回答说：“男孩，写下来，十五岁时死于利。”又问：“屋裹睡的是谁？”回答说：“魏公魏舒。”十五年以后，又去房主人那裹，问所生的儿在哪裹，回答说：“因为砍桑枝被斧砍伤而死。”魏舒自己知将会成为公。

四十多岁时，郡中计掾访察孝廉。宗族认为魏钟没有学业，劝他别去赴试，可以此表现洁。魏舒说：“如果赴试而考不中，那责任在我，怎能以不赴试窃取洁的虚名来作为自己的荣耀呢!”于是自学功课，百天学习一《经》，因而对答策问并考中。授他渑池长，迁任浚仪令，朝任尚书郎。当时要节选淘汰郎官，不称职的罢免。魏舒说：“我就是该淘汰的人。”卷起被褥就走。同僚中一向没有论的人都面有愧，谈论此事的人称魏舒。

逐渐迁任后将军钟毓的长史，钟毓经常和下箭，魏舒常常为他筹划而已。后来遇上友人不足，让魏舒凑数。钟毓起初不知魏舒善于箭。魏舒姿典雅，没有不中的，满座惊讶，没人比得上。钟毓叹歉说：“我没有充分发挥你的才能，有如此好的艺，难仅限于箭这一件事吗!”

转任相国参军，被封为剧。在官府朝中细碎的事务上，未曾看魏舒治政的好坏；至于关系到国家废兴的大事，众人没有能作决断的，魏舒慢慢筹划它，往往超众议之外。文帝重他，每逢朝会完毕，目送他说：“魏舒容貌堂堂，是众人的领袖。”

迁任宜、荣两郡太守，很有好名声。征朝中任散骑常侍。任冀州刺史，在冀州三年，有简明仁的名声。朝任侍中。武帝因为魏舒清廉朴素，特地赐绢百匹。迁任尚书，因公事应当免去官职，韶书命令赎过论。魏舒娶了三次妻都死了，逭年自己上表请假回本郡安葬妻，下韶赐葬地一顷，钱五十万。

太康初年，官拜右仆。魏舒与卫罐、山渣、退趸等人认为天下统一，应照古代典章在泰山封禅，前后多次陈述此事，皇帝谦让不同意。任命魏舒为左仆，兼吏。魏舒上书说：“如今挑选六，以玉帛行聘礼，而以往派御府丞奉送聘礼，完成喜庆礼仪，礼重而使者轻。我认为拜三夫人应派遣卿，九嫔派遣五中郎将，人、良人派遣谒者，这样在典章制度方面显得盛大。”下韶书让详细论证此事，众人的意见不一，于是被搁置下来。加任右光禄大夫、仪同三司。

等到山涛去世，让魏舒兼任司徒，不久正式就任。委蜡有威望，俸禄赏赐分送给亲属，家中没有多余财。陈留人周震几次被多个官府征召，聘书下达以后，官府主人就死去，众人给周震一个外号叫杀公掾，没有征用他的人。魏舒就任用他，而竟然没有灾患，有见识的人据此事说魏舒通达知命。

因年老，常称病辞职。中间又短时间就职，代理兖州中正，不久又称病。尚书左丞却说给魏舒写信说：“公久病稍好，治理政务就是了，这正是皇上所关心的。为什么重新就职后又卧病，委曲自回避法度，很是失去了众人的厚望。公年少时建立了巍巍大业，一旦放弃，难不可惜吗!”魏舒和起初一样仍旧称病。

后来因灾异请求辞官，皇帝不答应。此后趁正月初一朝会完毕回到宅第，上表送还印章绶带。皇帝下手韶敦促劝勉，而魏舒决持己意，于是下诏说：“司徒、剧魏舒，行宏大粹，思量远，忠敬正直，一心在公，尽力谋划。在朝中铨选官吏，任命官员公允有秩序；任地方官，敷陈弘大五教。好的教诲传四方，声望显著，可以说是朝中的俊杰人。然而屡次表示谦让，言辞心意恳切真诚，我反复阅览，读来令人若有所失。成就别人的意，是先代典章所赞许的，难于违背他的诚心。如今听从他的要求，以剧份回府第，位同三司，俸禄赏赐和以前相同。赐几案手杖，不必上朝，赐钱百万，床帐席褥自相。用舍人四人剧舍人，设置官骑十人。派光禄勋奉送策书，主持此事的人详细地照典章礼节，需一切依照旧制。”于是赐安车驷，门前设置鹿角木架。魏舒办事必定先后说，辞职时，没有人知。当时的议论认为晋开国以来，三公能辞职荣耀结局好的，还没有别人。司空卫罐给魏舒写信说：“常与你共同议论辞职的事，每次没有结果，可以说是看此事在前面，一下又落在了后面。”太熙元年去世，时年八十二岁。皇帝很是哀悼，赠与安葬的财优厚，谧号康。