玉帛财富，又有什么用呢？”太祖认为他所说的全都有理。三月，宋濂请求返乡探亲，太祖及太都对他备加劳、赏赐。宋濂上书谢恩，并致信太，勉励他要孝友敬恭，德修业。太祖看了这封信后十分兴，立即传召太，将信中内容告诉他。太祖还亲自赐信褒奖，答复宋濂，并令太回信以示回报。随后宋濂便因父亲去世，服丧守制，守丧期满，即奉诏返京。

洪武二年(1369)，太祖下诏修《元史》，宋濂被任命为总裁官。当年八月书成，宋濂被授为翰林院学士。第二年二月，儒士欧佑等收集元朝元统年以后的事迹回京，太祖仍命宋濂等续修《元史》，六个多月后完成，太祖赐以金帛。当月，宋濂因上朝有误被参劾，降为编修。四年，升为国司业，因考证孔礼奏不及时而获罪，被贬为安远知县，旋即又被召回，任礼主事。第二年升为赞善大夫。这时，太祖很留意文治，征召四方儒士张唯等数十人，选择其中一些年轻有才者，提升为编修，让他们中文华堂学习，以宋濂为老师。宋濂担任太之师十余年，太的一言一行，宋濂都要以礼法来劝导，使其归于正；而有关政教及前代兴亡之事，宋濂必定会拱手说：“应当是这样，而不应当是那样。”每当这时，皇太都非常严肃虚心地接受，而且对宋濂言必称师父。

当太祖剖符封功臣时，召宋濂前来商议怎样封五等爵位。宋濂住在大本堂，通宵达旦，引鉴汉、唐前例，择其适用分奏报皇上。后来当上天屡降甘时，太祖又问其中是否意味着有灾异或祥瑞，宋濂回答说：“天不是受命于天，而是受命于人，德的基础并不是祥瑞，而是仁义。《秋》只记灾异，不书祥瑞，就是这个理。”太祖的堂侄朱文正被定罪，宋濂说：“文正固然罪当死，但请陛下谅他是你的亲人，还是把他发到远方为好。”太祖到方丘祭祀，到心绪不宁，宋濂从容说：“养心莫过于寡，能够择善而行，那么便可以心境清静，平安。”太祖听后连连称赞有理。太祖也常向宋濂询问帝王之学，并问哪些书最值得看，宋濂推荐《大学衍义》一书，太祖于是下令把这本书的内容用大字刻在大殿两边廊上。不久太祖亲临西廊，众大臣也都在场，太祖挑《衍义》中司迁论黄、老之学中的一段，让宋濂讲析。待宋濂讲完，太祖便说：“汉武帝沉溺于方技荒谬之说，一改汉文帝、景帝节俭之风，民力既已疲惫，而汉武帝还要用严刑来加以监督。如果为人之主能以仁义来治理民心，那么异端邪说就不会传播，而以学校来治理百姓的话，祸就不会发生，所以刑罚并不是要优先考虑使用的。”太祖又问三代国运及封疆大小，宋濂都详细作答，并说：“三代都是以仁义治天下的，故能国运长久。”朱元璋又问“：三代以前，人们读什么书呢？”宋濂回答说“：上古时还没有书籍，也没有人专门讲习学问，君主既治理百姓，也兼教育之责，自己以作则，百姓自然就已接受了教育。”宋濂曾奉命作诗咏鹰，要在七步之内完成，其诗中有“自古戒禽荒”之言，太祖兴地说：“这可是很好的言啊！”宋濂随事朱元璋，一向忠诚，这些都是例。

六年七月，宋濂升为侍讲学士，负责起草诰文，同修国史，兼赞善大夫。受命与詹同、乐韶凤修订日历，又与吴伯宗等编修宝训。九月，给散官定官阶职务。太祖任命宋濂为中顺大夫，想让他理政事，宋濂推辞：“臣无他长，只要能就近侍奉皇上就已经很满足了。”太祖对他愈加看重。洪武八年九月，宋濂跟随太及秦、晋、楚、靖江四王到中都讲武。太祖获得地图《濠梁古迹》一卷，派人送给太，并在图外题词，命宋濂访询，随讲解。太将地图拿给宋濂看，宋濂逐一举陈，随事劝说，对太很有规劝告诫作用。

宋濂情诚恳谨慎，长期在中为官，却从不攻击他人过失。他的住室，题名为“温树”，如果有客人问起中情况，宋濂便将“温树”两字指给他看。有一次宋濂在家中与宾客一起饮酒，太祖派人暗中观察。第二天，太祖便问宋濂昨天喝酒没有，请了哪几位客人，吃些什么。宋濂一一如实回答。太祖笑：“说得对，你没有欺骗我。”太祖闲时召宋濂询问群臣的善恶优劣，宋濂只是列举表现优良的大臣，并说：“善良的人与我朋友，我了解他们，而对那些不善之人，我不了解他们！”主事茹太素上书万余言，太祖大怒，以此询问廷臣的看法。有的指着茹太素的上书说：“这是不敬，是诽谤，是违法。”太祖问宋濂，宋濂回答“：茹太素是尽忠于陛下的，陛下现在刚敞开言路，怎么能给他定以大罪呢？”不久，太祖翻阅茹太素的上书，觉得有不少可取之，于是便将廷臣全召来责问，并直呼宋濂的字说：“若不是景濂，我几乎就要错误地加罪于上书言事的人了。”于是太祖又当场称赞宋濂说“：我听说最上等的是圣人，其次是贤人，再次为君。宋景濂为朕效力十九年，从未说过一句假话，也从未讥讽别人的短，始终如一，他岂只是君，还真可以说是贤人了。”每当闲暇之时，宋濂来见，太祖都要下令设座上茶。每当早晨见宋濂，总要下令膳招待，反复地向宋濂咨询，常常谈到夜半才作罢。宋濂不会饮酒，而太祖有一次让他喝了三觞，使他醉得行不成步，太祖见他这样，十分兴，并亲自作《楚辞》一章，又下令词臣作《醉学士诗》。太祖又有一次将甘调汤中，亲手舀起来给宋濂喝，并说：“这汤能治病，还可以益寿延年，我愿与你共享。”又下诏令太赏赐宋濂良，然后又亲自作《白歌》一章，也命侍臣赋诗附和。宋濂所受恩便是如此。九年，宋濂晋升为学士，承旨负责起草诰书，仍兼赞善大夫。第二年，宋濂担任官职，太祖赐给他《御制文集》及绮帛，并问宋濂年纪多大了，宋濂回答：“六十有八。”太祖便说：“你若将此绮收藏三十二年，你就可以拿它来一百岁时的衣服了。”宋濂顿首谢恩。又过了一年，宋濂来朝拜见。洪武十三年，宋濂的长孙宋慎因胡惟庸案获罪，太祖要将宋濂死，由于皇后和太全力相救，才将他安置到茂州。

宋濂相貌丰伟，满脸髯，睛近视却很明亮，能在一粒黍上面写几个字。从少到老，没有一天离开过书籍，对学问无所不通。宋濂文风淳厚而飘逸，可与古代作者媲。在朝时，凡郊社宗庙、山川百神之典，朝会宴享、律历衣冠之制，四裔贡赋、赏劳之仪，旁及元勋卿碑记刻石之辞，都委托给宋濂负责。宋濂屡次被推为开国文臣之首。士大夫登门索要诗文者，接踵而至。甚至外国前来贡的使者都知宋濂的名声，多次问起宋先生日常起居及安康否。丽、安南、日本甚至双倍价收购宋濂文集。四方学者都称宋濂为“太史公”，而不称其姓氏。宋濂虽以白发老者随侍朱元璋，其功业、爵位却比不上刘基，而一代礼乐制作，宋濂所裁定的居多。