攻晋、绛二州，张全义袭取河，李罕之投奔晋，晋派兵救助孪罕之，围攻张全义很急。

张全义向梁求兵，梁派存节、丁会等人率兵一万人从九鼎渡过黄河，在洗打败李罕之，晋军解围离去。

梁派丁会守河，张全义回师任河南尹。

张全义激梁救自己，因此对梁尽心尽力。

这时，河南遭受黄巢、孙儒的兵火蹂躏之后，城邑残破不全，全县不到一百，张全义披剂斩棘，鼓励耕作养，亲自带着酒，在田问劳百姓，修筑南、北二城让他们居住。

数年后，人兴盛资齐备，老百姓十分信赖他。

到梁太祖劫持唐昭宗束迁，修缮治理殿、官府、仓库，都是张全义的力。

张全义原名张言，唐昭宗赐名张全义。

唐灭亡，张全义事奉梁，又请求改名，梁太祖赐名张宗奭。

梁太祖格猜忌，晚年尤其严重，张全义事奉他更加谨慎，最终以此免祸。

自从梁和晋在河北作战，军队多次败逃，张全义就收聚士兵镗甲战，月月献以补充不足。

梁太祖在蓓县兵败，路上患病，返回洛，到张全义的会节园避暑，住了十天，张全义的妻女儿都被迫与其。

他的儿张继祚愤恨羞耻不能控制自己，想刺死梁太祖，张全义制止他说：“我被李罕之的军队包围在河，以木屑为，只有一匹，准备杀掉作军粮，死在朝夕之间，但梁兵救我们，得以活到现在，这恩不能忘。”张继祚纔作罢。

曾有人对梁太祖谈起张全义，梁太祖召张全义，他的用意无法预料。

张全义的妻储氏聪明机有才，急忙见，严厉地说：“张宗奭不过是田老翁罢了！守河南三十年，开荒地，聚积财赋，协助陛下创业，如今已老无用，已经没有作为了，而陛下疑心他是为什么呢？”梁太祖笑着说：“我没右恶意，你不要多说了。”张全义在梁官，累拜中书令，邑达一万三卢，兼领忠武陕虢郑河节度使、判六军诸卫事、天下兵副元帅，封为魏王。

当初，张全义被李罕之打败，他的弟弟张全武和他的家属被晋兵抓获，晋王供给他们田宅，待他们很好，张全义常常暗中派人到太原通消息。

到梁灭亡，唐庄宗汴梁，张全义从洛来朝见，以泥糊等待治罪，唐庄宗安他说：“你家弟侄，有幸又相见了。”张全义伏地涕。

年老不能上前跪拜，派人扶着他登廷，犒赏饮宴竭尽乐，命皇李继岌、皇弟李存纪等人都把他当哥哥对待。

张全义于是不用梁赐给的姓名，请求恢复他的原名。

而张全义还不能安心，于是重金贿赂刘皇后，把自己托付给她。

当初，梁末帝到洛，准备在南郊祭天而未成，当时的仪仗法还在，张全义于是请庄宗驾临洛，说南郊仪仗法已准备好。

唐庄宗非常兴，加拜张全义为太师、尚书令。

第二年十一月，唐庄宗到洛，在南郊祭天但礼法没准备好，于是改在来年二月，但不用过去的话责备张全义。

因为皇后的缘故，对他更好，多次到他的府第，命皇后拜张全义为父亲，改封为齐王。

当初，唐庄宗消灭梁，打算挖梁太祖的坟墓，开棺毁尸。

张全义认为梁虽是仇敌，但现在已经将他全家灭掉，足够报仇了，开棺戮尸，不是帝王以大度昭示天下的法。

唐庄宗认为对，只是铲去墓前双阙罢了。

张全义的监军曾得到李德裕平泉山庄的醒酒石，李德裕的孙李延古，于是托张全义再次索回。

监军气忿地说：“自从黄巢作以后，洛园宅不再能保，哪只是平泉山庄一个石呢！”张全义曾在黄巢贼军中，认为这是讥讽自己，因而大怒，上奏鞭杀监军，天下的人都认为冤枉。