纵容下属而被治罪，李善长一向私李彬，故请求从宽发落，刘基不听，并派人骑速报太祖，得到批准，刘基便在祈雨时，将李彬斩首。因为这件事，刘基与李善长开始不和。太祖返京后，李善长便向太祖告状，说刘基在坛土遗下杀人，是不敬之举。那些平时怨恨刘基的人也纷纷诬陷刘基。当时正逢天旱，太祖要求诸臣发表意见，刘基上奏说：“士卒亡故者，他们的妻全迁往他营居住，共有数万人，致使气郁结。工匠死后，腐尸骨骸暴在外，将投降的吴军将吏都编军，便足以协调之气。”太祖采纳了他的意见，但十天过后仍不见雨，故而发怒。此时恰好刘基的妻死了，所以刘基请求告辞还乡。太祖正在营造中都，又积极准备消灭扩廓。刘基临走上奏说“：凤虽是皇上的故乡，但不宜作为建都之地。王保保不可轻视。”不久，定西之役失利，扩廓逃往沙漠，从那时起一直成为边患。这年冬天，太祖亲自下诏，叙说刘基征伐之功，召他赴京，赏赐甚厚，追赠刘基的祖父、父亲为永嘉郡公，并多次要给刘基爵，刘基都固辞不受。

当初，太祖因事要责罚丞相李善长，刘基劝说“：他虽有过失，但功劳很大，威望颇，能调和诸将。”太祖说：“他三番两次想要加害于你，你还设地为他着想？我想改任你为丞相。”刘基叩首说“：这怎么行呢？更换丞相如同更换梁，必须用壮结实的大木，如用细木，房屋就会立即倒坍。”后来，李善长辞官归居，太祖想任命杨宪为丞相，杨宪平日待刘基很好，可刘基仍极力反对，说：“杨宪备当丞相的才能，却没有丞相的气量。为相之人，须保持像一样平静的心情，将义理作为权衡事情的标准，而不能搀杂自己的主观意见，杨宪就不到。”太祖又问汪广洋如何，刘基回答：“他的气量比杨宪更狭窄。”太祖接着问胡惟庸，刘基又回答：“丞相好比驾车的，我担心他会将车翻。”太祖于是说“：我的丞相，确实只有先生你最合适了。”刘基谢绝说：“我太疾恶如仇了，又不耐烦理繁杂事务，如果勉承担这一重任，恐怕要辜负皇上委托。天下何患无才，只要皇上留心就是了。目前这几个人确实不适合担任丞相之职。”后来，杨宪、汪广洋、胡惟庸都因事获罪。三年(1370)，太祖授刘基为弘文馆学士，十一月，大封功臣，又授刘基为开国翊运守正文臣、资善大夫、上护军，封诚意伯，禄二百四十石。第二年，赐刘基还归家乡。

太祖经常写信给刘基，询问天象，刘基都非常详细地逐条回答，然后将其草稿烧掉。刘基大致说，霜雪之后，必有，现国威已立，应当稍微采用宽大政策来治理天下。刘基辅佐太祖平定天下，料事如神。他情刚烈，疾恶如仇，经常与人发生冲突。直到现在他才隐居山中，只是饮酒下棋，从不提起自己的功劳。县令求见，被刘基拒绝，于是便穿着便服，装成乡野之人去见刘基，刘基当时正在洗脚，便让堂侄将他引茅舍，以黄米饭招待。县令这时才告诉刘基“：我是青田知县啊。”刘基大惊，上起称民，然后谢罪离去，终不相见。刘基的行踪如此秘密，最终还是被胡惟庸中伤陷害。

最初，刘基说瓯、括之间有一块空地叫谈洋，南抵闽界，是盐盗的巢，方氏便是由此作的，故请设巡检司守卫，民为便不那么方便了。时逢茗洋逃兵反叛，官吏都匿而不报，刘基便令长刘琏将此事上奏，但未先通报中书省。胡惟庸当时正以左丞相的份主中书省，对以前与刘基的过节怀恨在心，于是便派手下官员攻击刘基，说谈洋这个地方有帝王之气，刘基想将它作为自己的墓地，因为当地百姓不答应，刘基便请求设巡检司将百姓赶走。太祖虽然没有加罪于刘基，但颇为这些言论所打动，因而剥夺了刘基的俸禄。刘基心中害怕，朝谢罪，然后呆在京城，不敢返乡。不久，胡惟庸当了丞相，刘基悲叹“：若是我的话不应验的话，那便是苍生之福了。”遂因忧愤加而发病。洪武八年(1375)，太祖亲自撰文赐给刘基，并派专人护送刘基返乡。到家后，病情加重，便将《天文书》授给长刘琏，并说：“赶快送给皇上，千万不要让后人学习此书。”又对次刘王景说：“为政之事，要宽猛替。当今之务在于修养德行，减省刑罚，才能祈求上天保佑国运长久。那些战略要害之地，应当与京城遥相呼应，连成一。我本想上奏一份遗表，但因胡惟庸当朝掌权，这么毫无用。有朝一日胡惟庸下台后，皇上必然要想起我，如果他向你问什么的话，便将我所说的密奏皇上。”回家仅住了一个月，刘基便去世了，终年六十五岁。刘基在京城生病时，胡惟庸曾派医生来给他治病，刘基吃了药后，腹中便现了一个像拳大的石。后来中丞涂节首先揭发胡惟庸谋反一案，并且说是胡惟庸下毒将刘基害死的。

刘基满脸虬髯，相貌堂堂，慷慨而有大节，每当谈论天下大事，便义形于。太祖知他非常忠诚，对他委以心腹之任。每次召见刘基，都要避开他人内室，单独与刘基长时间密谈。刘基也自认为自己得不世之遇，所以在太祖面前知无不言。每到急危难关，刘基总是勇气奋发，计策立定，人莫能测，闲暇之时，便敷陈为王之，而太祖每次都洗耳恭听，常常称刘基为老先生而不叫他的名字，并说：“你就是我的张房啊。”又说“：老先生多次以孔之言来劝导我。”所以，太祖与刘基的帐中密语，世人所知不详，而世间所传为神奇的，大多只是一些风之说，并非刘基的至理名言。刘基的文章气势浩大而奇妙，与宋濂同为一代宗师，他的著作有《覆瓿集》、《犁眉公集》传于世。刘基有二：刘琏、刘王景。

宋濂，字景濂，其祖先是金华潜溪人，到宋濂这一辈才迁至浦江。宋濂幼时聪，记忆力，就学于闻人梦吉，通《五经》，后又跟随吴莱学习。不久，又在柳贯、黄氵晋门下游学，他们两人都极推崇宋濂，自谓不如他。元至正年间，宋濂因举荐授为翰林编修，但他以父母年老为由辞不就，而到龙门山闭门著书。