，良玉、祖宽跟随巡抚陈必谦解救洛，敌兵于是退去。迎祥、自成兵走偃师、巩县，献忠逃往嵩县、汝州。良玉从洛发追击迎祥和自成，祖宽兵分几路打击张献忠，援救汝州。恰巧总理卢象升从湖广来，与祖宽一起在汝州西大败敌军，又命令自己的偏裨将领在宜的黄涧打败敌军。

九年(1636)二月，敌人在登封的郜城镇被打败，逃往石关，同伊、嵩县两的敌军联合。原总兵官九州从嵩县，与良玉夹攻剿敌。良玉中途逃回，九州乘胜追击四十里，由于孤立无援，战败而亡。良玉却把此役当作捷报递呈朝廷。五月，象升派遣祖宽、李重镇随陕西总督洪承畴向西前。良玉的军队实力最，又大都是中州人，所以他独自久留河南。因为他骄横、傲慢，难得听用，所以让孔光代替他的偏将赵驻守灵宝，防守洛西；良玉同罗岱驻守宜、永城两地，防守洛东。七月，良玉的军队抵达开封，由登封的唐庄去，从清早一直激战到下午，敌军支持不住，向西逃跑。陈永福刚刚在唐河打败敌人，敌兵到了田家营，良玉渡河攻，杀死、俘虏了很多人。九月，巡抚杨绳武弹劾良玉回避敌人，朝廷责令他立功赎罪。

十年(1637)正月，敌将老回回联合曹、闯塌天的各兵力沿江东下，安庆传来警报。朝廷命令良玉从中叶发前去援救。良玉途中剿杀了南的土匪杨田、侯驭民、郭三海，急忙抵达六安，同敌军相遇。将罗岱、兴乘胜作战，连连破敌。敌军逃往霍山和潜山。此时火广、刘良佐在桐城、庐州、六安也多次打败敌军，在滁州、和州两地的敌军也向西逃跑，江北的危急也稍稍减弱了。应天巡抚张国维三次发布檄文要良玉山中搜剿，良玉没有响应，而是纵兵在当地掳掠妇女。屯居舒城一个多月后，河南监军的太监极力促他，良玉才向北去，这时敌军已经掠夺够了，山中。过后，淅川陷落，良玉拥兵坐视，不去援救。因为在六安破敌有功，以前诏书让他罪立功，至此又恢复了官职。敌军东下袭击六合，攻占天长，兵分几路占领瓜洲、仪真，打下盱眙。良玉决不肯去救援，反让中州的士绅联名上书挽留自己。庄烈帝知是良玉自己的意思，也无法改变他的意志。十月，总理熊文灿到达安庆，兵传令良玉的队归他统领，良玉瞧不起文灿，不肯听他征调。

十一年(1638)正月，良玉与总兵陈洪范在郧西大败敌军。张献忠想借官府的名义袭击南，驻扎在南关。良玉正好赶到，心中怀疑，就召他们前来，献忠逃跑而去。良玉追上去，了两箭，中他的肩膀，又挥刀猛砍，献忠血满面。他的下及时援救才得免一死，于是逃到谷城，不多时，请求投降。良玉知他是假装投降，竭力请求向他攻，文灿不允许。九月，文灿攻郧、襄两地的敌军，斩获二千首级。十二月，河南巡抚常立派良玉到陕州。敌人乘卢氏守备空虚，逃往内乡、淅川两地。这个月，许州发生兵变，良玉的家安置在许州，在兵变中被灭了门。

十二年(1639)二月，良玉率领降将刘国能北上援救京城，庄烈帝诏令他回师讨伐河南的敌军。他的军队路过灞、吴桥时，大肆掠夺当地百姓。太监卢九德上书报告朝廷知后，庄烈帝又下诏让良玉罪立功。后来良玉在镇平关打败敌将忠，忠投降了他。又与国能在张家林、七里河两次打败敌将李万庆，万庆也投降了他。七月，献忠叛逃而去，良玉同罗岱追击他，罗岱充当前锋，良玉跟在他的后面。赶过房县八十里，到达罗猴山，军队缺乏粮。敌人的伏兵突起，罗岱的被藤条挂住，他刀来砍断藤条，跌倒之后又继续向前，放弃自己的登上山来，敌军围困很，罗岱的箭完后被俘获。良玉这次大败而回，官印、军符全都丢掉了，放弃了成千上万的军用资，死亡的士卒有一万人。事情报到朝廷后，良玉因轻率兵，被贬官三级。

十三年(1640)天，督师杨嗣昌推荐说，良玉虽然打了败仗，但他有大将之才，他的队也听从他的调遣。于是良玉晋升了平贼将军。这个时候，敌军分为三块：西侧由张献忠率领，盘踞在湖北、四川的城外；东侧是革里、左金王等人统辖的四个军营，在随州、应山、麻城、黄冈一带狼奔豕突；南侧是曹、过天星等人统辖的十个军营，署在南漳、房县、兴山、远安之间。闰正月，良玉联合各路军队在枸平关向敌军攻，张献忠失败逃走，良玉于是请求从汉、西乡四川境内追击他们。嗣昌计划让陕西总督郑崇俭率领贺人龙、李国奇从西乡四川，而命令良玉驻兵兴平，另外派遣偏将追剿敌人，良玉不愿服从。嗣昌传令给良玉说“：敌军的架势好像不会四川，他们仍会在陕西境内奔逃，寻找生路。你从汉、西乡四川，万一敌军从旧路急奔平利，仍然竹山、房县两地，你怎样抵御他们？即使不这样，而是去宁昌，归州、巫山两地，同曹的兵力相会合，我军大将随后追击，促使敌军返回湖北，这也不是好计策。”良玉回答说：“四川土地沃，敌军冒险渡江，如果听凭他们逃跑，以后就难以制服。况且敌军四川，有粮可以作为生存的保障，返回郧也没有土地可以掠夺，他们不会返回湖北，这是明白无疑的。兵力联合则势力，兵力分散势力就弱。现在已经留刘国能、李万庆把守郧，如果再分三千人四川，即使驻扎在兴平，军队的力量已经很薄弱了，敌军前来，能阻止得了？现在应当给敌军来一个突然袭击，一当受到重大打击，敌人的军心自然会瓦解。即使折回房县、竹山之间，那里人烟稀少，他们从哪儿搞到粮吃去？况且郧的驻军在前面扼守，陕西巡抚在紫、兴安牵制敌军的右侧，敌人一定不会得逞。像宁昌、归州、巫山地带那样险峻而且路远的地方，曹和献忠之间又不能相互礼让。倘若献忠败后去归附曹，内必然会相互吞并，他们的灭亡也就立等可见了。”良玉已经在二月初一日到达四川边界的渔溪渡了，嗣昌估计自己不能制止他，并且他的考虑也很有理，就听从了他。

当时，张献忠的军营在太平县的大竹河，良玉驻扎在渔溪渡。不多久，总督崇俭带领他的兵力前来会合。敌军移驻九坪，看到玛瑙山地势险峻，打算占据它。良玉刚抵达山下，敌军已经盘踞在山上，凭借向良玉的军队击鼓叫战。良玉下到四周观察了很久，说：“我知怎样破敌了。”于是把兵的路分为三条，良玉自己负责两条，陕西兵负责另一条。下令说“：听到鼓声就攻上去。”两路夹攻而上，敌军阵势固，牢不可破。经过长时间的激烈战斗，敌军大败，掉到山沟里去的人不计其数。官军追击敌人四十里，斩杀了扫地王曹威、白邓天王等十六个大目。献忠的妻妾也被捉拿，自己逃往兴山、归州的山中，不久从盐井逃窜到兴山、归州的边界线上。这次战役，良玉的功劳第一。事情报给朝廷后，良玉被加封为太少保。四月，良玉驻兴安、平利的群山中，军营相连有一百多里长。各路官兵惧怕山势险峻，只包围敌人而不攻打。过了很长一段时间，献忠从兴山、房县经白羊山向西逃窜，同罗汝才的军队会合。七月，良玉乘胜攻过天星，迫使他投降过来。过天星，名叫惠登相，投降之后，就一直当良玉的将。