但因兵力分散，造成汴州防守空虚。他还命梁军掘开州（治今河南县）南面的黄河大堤，以阻止唐军攻汴州，但同时也将梁军主力阻隔在决河以北。九月，梁将康延孝投降后唐，将后梁军情尽数告知李存勖，建议唐军趁虚袭取汴州。而李嗣源则在郓州附近大败王彦章，俘获梁军将校三百余人，迫使梁军退保中都（治今山东汶上）。

十月，李存勖自杨刘渡河，抵郓州，并以李嗣源为前锋，攻破中都，俘杀王彦章。当时，诸将都认为应先攻占兖州等地，再乘机而动。李嗣源则持趁虚袭汴的战略。李存勖命李嗣源率前军倍兼程，向汴州发。是月初九日，李嗣源抵达汴州，挥军攻城。朱友贞自杀，梁将王瓒开城投降。李存勖于同日抵达，由大梁门汴州，后梁正式灭亡。

梁晋争霸期间，南方还存在很多割据政权。其中前蜀据有三川（指剑南西川、剑南东川、山南西），定都于成都，其国主称皇帝，与后梁分抗礼。后主王衍在位时，奢侈**，大兴土木，委政于宦官、狎客，纵容太后、太妃卖官鬻爵，致使朝政败坏，贪腐成风。他还在国内四巡游，制沿途州县供应宿，百姓苦不堪言。后唐灭梁，威震天下，岐国、楚国、吴越国、闽国、南平国等割据政权纷纷贡称藩，前蜀却不肯臣服。李存勖便有意讨平前蜀。

同光二年（924年），客省使李严使前蜀，趁机刺探蜀中虚实，他归国后极力主张伐蜀，称蜀国已有亡国之象，更定了李存勖兵灭蜀的决心。当时，前蜀为了防御后唐，在两国边界驻有重兵。同年八月，李存勖又遣使者李彦稠川，表示要与蜀国修好，以此麻痹王衍。王衍信以为真，派翰林学士欧彬为唐蜀通好使，使后唐，同时还撤除了边界守备。

同光三年（925年）九月，李存勖以魏王李继岌为主帅，统领六万大军，征讨前蜀。李继岌年幼，军务皆有副手郭崇韬决断。唐军以康延孝、李严为前锋，连克威武城（在今陕西凤县东北）、凤州（治今陕西凤县）、兴州（治今陕西略）等地，缴获大批粮草。

而与此同时，王衍仍在国内巡游作乐，到达利州（治今四川广元）时方知唐军来犯。他急忙组织三万兵迎战，却被唐军击溃于三泉（治今陕西宁西南）。前蜀各藩镇纷纷来降，王衍仓皇逃回成都。

是年十一月，前蜀中书令王宗弼发动政变，囚禁王衍、后妃及诸王，自称西川兵留后。他以王衍的名义邀请李严到成都，商谈投降事宜。李严驰成都，抚前蜀官吏、百姓，命蜀军撤去成都的军事防备。不久，李继岌率大军抵成都。王衍率百官城拜降，前蜀正式灭亡。南方诸国皆惊惧不已。

同光四年（926年）二月，魏博戍卒在贝州哗变，推裨将赵在礼为首领，攻魏州。邢州、沧州也相继发生兵变，河北大。元行钦带兵讨，但却连连失利。李存勖本亲征，被宰臣劝阻，只得起用李嗣源，让其率侍卫亲军北上平叛。李嗣源在魏州城下遇到亲军哗变，被劫持城，与叛军合势。他本无反意，但迫于内外形势，又无以自明，只得率变兵南下。

三月，李存勖亲自率军东征，坐镇汴州指挥平叛。但李嗣源已抢先占据汴州，得到大批唐军将领拥。李存勖知局势已不可挽回，行至万胜镇（在今河南中牟西北）便下令回师，仓皇返回洛。他再三抚士卒，许以厚赏，但已为时太晚。士卒均不皇帝恩德，沿途逃散过半。[40]当时，李继岌已率征蜀大军班师，途中因平定后军康延孝叛，被耽误了归程。

四月，李存勖决定前往汜关（在今河南荥西北），与李继岌会合，再联兵剿李嗣源。他命扈从军兵候于门外，自己在内殿。从直指挥使郭从谦突然发动叛，率所攻兴教门。李存勖亲率宿卫战，杀死数百军，最终被矢中，死于绛霄殿，时年四十三岁。