贽任宰相，贬调他京任明州员外长史，过了很久被赦免，起用为忠州刺史。当时陆贽已经被贬谪到忠州，有人议论，认为李吉甫一定会在陆贽上气，重新罗织他的罪名；等到李吉甫到职，却与陆贽相很好，并没有把旧日的嫌隙放在心上。李吉甫六年没有调官，因为生病的缘故被免职。不久，被授予郴州刺史，又调任饶州刺史。在此之前，州城因为连续死了四个州官，城池废弃不住，生了怪异的东西，郡中百姓都相信它的灵验，李吉甫来了之后，开了城门的锁，剪除了荆榛而住在这里，后来人们才安定下来。

宪宗即位以后，征召李吉甫为考功郎中，掌皇帝的文书诏令，来到朝廷以后，又立即召为翰林学士，转任中书舍人，赐穿紫袍。宪宗刚即位时，中书省小吏涣和掌枢密的中使刘光琦亲近友善，颇窃取了一些朝政的权柄，李吉甫请求让他离去。刘辟反叛，皇上下令声讨他，策略不能决定，李吉甫暗中参与谋划，请求广泛征召江淮的军队，由三峡一路，以分散蜀地叛军的兵力。几件事皇上都同意了，从此非常亲近信赖他。元和二年(807)，杜黄裳守军镇，皇上提李吉甫任中书侍郎、同平章事。李吉甫天资聪慧锐，熟悉通晓事务，自任员外郎京为地方官，滞留在江淮十五年多，全面、仔细地了解了民间疾苦。及至担任宰相，担心地方节镇贪暴横行，便上书，令各个方镇属下的刺史能够各自为政。他提了众多的人材，有着极好的声誉。

元和三年(808)秋，裴均任仆，掌财政收支，权臣佞幸，想要谋求宰相之职。在这之前，李吉甫制定策试的直言极谏科目，其中有讥刺时政，忤犯权臣佞幸的内容，因此裴均的同党扬言这都是执掌政柄的人所教唆、指使，妄图以此动摇李吉甫的地位，幸而谏官李约、独孤郁、李正辞、萧亻免秘密上疏陈报，皇上的疑意才消除。李吉甫早年结推许羊士谔，提升他为监察御史；另有司封员外郎吕温文辞修养很，李吉甫也亲厚相待。窦群也和羊士谔、吕温相友善，窦群开始被封为御史中丞，他奏请朝廷封羊士谔为侍御使，以吕温任郎中，掌杂务。李吉甫气愤他不先打招呼，而所请求提升的人又有超其资历的，因而接到诏令几天都不执行，彼此产生了嫌隙。窦群便等到占候卜筮者陈克明李吉甫家时，将其秘密逮捕，报告皇上，宪宗询问他，并没有为非作歹的罪行。李吉甫认为裴土自长期在翰林院，宪宗很亲近、信任他，一定会受到重用，就秘密推荐裴土自代替自己，因为自己希图任节镇地方官。当年九月，李吉甫被封为检校兵尚书并兼任中书侍郎、平章事，充任淮南节度使，皇上驾临通化门城楼为他饯行。李吉甫在扬州，每当有朝廷得失、军国利弊方面的事情，都用密疏一一论述。又在邮县筑堤为塘，溉田地几千顷，人们都得到了他的好。

元和五年(810)冬，裴土自因病去职。第二年正月，授予李吉甫金紫光禄大夫、中书侍郎、平章事、集贤殿大学士、监修国史、上国、赵国公等称号。待他再次任宰相时，便请求裁减官员和那些经由各途径的胥吏等，并定朝廷内外官员的俸禄，当时的人都认为很恰当。京师的僧侣有凭着权豪势要而免于纳税的，李吉甫上奏说：“朝廷所征收的钱粮一向是有定额的，正好用僧人的余财，来给贫苦无告的人，免税一定不能容许。”宪宗便停止让僧人免税。又请求把普军划归给泾原。

元和七年(812)，京兆尹元义方上奏说：“永昌公主照礼制建造祠堂，请示它的规模制。”当初，贞元年间，义、义章两位公主都在墓地建造祠堂一百二十间，钱了好几万；至于永昌公主祠堂的制，皇上命令元义方减少旧制的一半。李吉甫奏：“永昌公主幼年夭折，满朝同悲，更何况皇上的情，必然钟想念。但陛下如此悲痛还能把祠堂的建制减少一半，显示折衷的规格，彰明节俭，教育人臣，确实超越古今。臣认为祠堂的建造、礼仪的典册没有明文规定，德宗皇帝对于义、义章二公主，只是于一时的恩遇，事情归因于习俗，当时人们并非没有背后议论的。从前汉章帝时，想为光武帝的原陵、明帝的显节陵各建邑的屋舍，东平王刘苍呈上奏疏说不可以这样。东平王是光武帝的，明帝的弟。以他那贤王的心情，难会在父兄上吝惜钱财么！确实因为这是不合乎礼制的事情，君王应当慎重。现在与其照义公主那样修建词堂，臣认为恐怕不如酌量设置守墓的民，以充任守护供奉的职责。”第二天，皇上对李吉甫说：“你昨天所奏明停修祠堂的事，使我心中快。我开始也怀疑这样太繁琐浪费，但由于不知从前的实情，因此只是酌量减少一些，看了你的陈述，才知这样没有据。但是我不想损害二十百姓的利益，应当挑选官府控制的罪役，委派他们去守墓。”李吉甫向皇上拜贺。皇上说：“卿呀，这难是什么难事。有关于我自己，不利于时局的，只要听到了就改正，这难也值得赞么！你只要勤