给闯贼，让他收拢人心，招集党羽。家玉于是遭到逮捕。第二年，南京失守，他逃回家乡。后来跟着唐王到了福建，唐王提升他为翰林侍讲，让他监督郑彩的军队。他们开杉关，打算光复江西，解救抚州之围。

顺治三年(1646)，传闻说大清兵来了，郑彩就逃杉关，家玉跑到新城去了。大清兵来攻打新城，家玉来迎战，中了一箭，从上摔下摔断了胳膊，逃杉关去了。唐王命令他以右佥都御史的衔去巡抚广信，而广信已经沦陷，他请求到惠州、州募兵，劝降了几万名山贼，打算奔赴赣州救急。正好大清兵打下了汀州，他于是返回东莞。

四年，家玉和举人韩如璜联合民兵攻打东莞城，知县郑霖投降了，于是他们抄没了前尚书李觉斯等人的家产用来犒赏士兵。才三天功夫，大清兵到了，家玉败走。这时他上表给永明王，被提升为兵尚书。不久，大清兵来攻，如璜阵亡了，家玉逃往西乡。他的祖母陈氏、母亲黎氏、妹妹石宝都投自杀了，他的妻彭氏被捉后，也不屈而死，他家乡的人被全消灭了。西乡的一个大豪陈文豹支持家玉占领了新安，袭击东莞，又在赤冈战。不久，大清的大队大举而来，攻打了几天，家玉战败，逃往铁冈，文豹等都死了。

觉斯把家玉恨透了，挖了他祖先的墓地，连家庙都给他拆毁了，全消灭了他的族人，他家所在的乡村变成了一团废墟。家玉从故乡经过时，痛哭着离开了。路上他招集了几千名士兵，攻占了龙门、博罗、连平、长宁，接着攻打惠州，占领了归善，收兵驻扎在博罗。大清兵过来攻打他，家玉退到龙门，又招募了一万多士兵。家玉喜击剑，以侠客自许，跟草泽上很多豪杰有来往，因此所到之人们都服从他。他就把招募来的兵士分为龙、虎、犀、象四营，攻取了增城。

十月，大清队的步兵和骑兵一万多人过来攻打增城。家玉把他的队伍分作三，犄角相救，凭据山谷固守。大战了十天，兵力不支，战败了，里里外外被围了几层。将领们劝他突围去，家玉叹息说“：箭完了，炮震裂了，想打也没武好打了；军官受了伤，士兵死了这么多，想打也没人能打下去了。为什么还要犹豫不决，等着用脖上的血溅在敌人手上呢？”接着一个一个地拜别手下的将领，自己野塘里死了，终年只有三十三岁。第二年，永明王追赠家玉为少保、武英殿大学士、吏尚书、增城侯，谥文烈。他的父亲张兆龙还在世，就把儿的爵位封给了他。

陈彦，字令斌，顺德人。为县学生员，为人意气豪迈。福王在位时，他到朝廷里递上关于国家大事的三十二条意见，遭到回绝。唐王聿键读后极为赏识，他自立为皇帝以后，派人到彦家里任用他为监纪推官。尚未接到任命，彦就乡试中举了。后来因为苏观生的推荐，彦改任职方主事，监督广西狼兵前往救援赣州。到达附近的山岭，就听说汀州了事，他劝观生上往南去驻守州、惠州，观生不听。

正好丁魁楚等人已经拥立永明王在肇庆监国，观生派彦前往祝贺。永明王因为赣州被打了下来，怕大清兵自己，就向西到了梧州。彦刚刚见，观生却又在广州拥立了唐王聿钅粤，彦还不知。晚上二更天时，永明王派了十几个宦官把彦召船内。王太后垂帘坐着，永明王脸朝西坐着，魁楚在一边侍立，把广州的事对彦讲了。彦请永明王立即回肇庆，正式登基，以便团结人心。命令南雄的兵占领韶关，控制广东十郡中的七郡，把剩下的三郡丢给唐王，让他替我们挨打，然后我们再乘他战以后的弱势把三郡夺回来。永明王听了十分兴，立即提彦为兵科给事中，让他捧着敕令回去教导观生。彦到了广州后，听说使臣彭火翟被杀了，就派随行人员把永明王的敕令送观生，自己也写了一封信给观生讲明利害。观生犹豫了几天，正打算议和，赶巧得知永明王的队被自己打得大败，就没有行议和。彦于是改名换姓明山隐居去了。

顺治三年(1646)十二月，大清兵打下广州，观生死了，周围的城镇都被打了下来，于是彦打算起兵。起初，赣州的万元吉派族人万年在广州募兵，召到了余龙等一千多人，还没发赣州就失陷了。余龙等人没去，就聚集在甘竹滩当盗，别的地方的散兵又有很多人加，发展到了两万多人。总督朱治忄间把他们予以招安，后来他们又哗变而去。四年天，大清兵平定广州后，又打下肇庆、梧州，把治忄间打败、赶走，杀掉了魁楚，大军前锋抵达平乐。永明王正从梧州取路平乐，前往桂林，形势十分危急。彦于是劝余龙趁此机会谋取广州，他自己调明的兵力从海路珠江跟余龙会合。彦又给张家玉写信说“：桂林下势如累卵，只要我们能牵制清兵不往西去，使浔州、平乐得以保全，就可以说是我们在这边使劲，在那边看见成功了。”家玉认为是这样。但是余龙的队伍原本不守纪律，大清兵从桂林回师解救广州之围，扬言说要攻打甘竹滩，余龙等要回护自己的家，就撤兵走了，彦也只好退回去。后来，彦派自己的门人应芳联合余龙的队伍攻占了顺德。不久大清兵到来，余龙战败，应芳被捉住后自杀死了。四月，余龙在黄连江再战，也兵败死了。大清兵到新安去攻打家玉，彦于是离开明的队伍，收罗各地残兵余勇，沿江下去占据了江门。