江柘林的兵力有二万多人，总督张经督促俞大猷战，俞大猷持不可轻举妄动。等到永顺、保靖兵卒陆续赶到时，才随张经大败倭寇于王江泾，但功劳被赵文华、胡宗宪所冒领，并因金山战败事，被朝廷贬谪为一般办事官员。

柘林倭寇虽然败北，但新增援的倭寇乘战船三十余艘突破青村所，与南沙、小乌、狼港诸路贼人汇合，犯苏州陆泾坝，直娄门，击败南京都督周于德所率队。海寇又分为二路，北路攻掠浒墅，南路扰横塘，兵势蔓延到常熟、江、无锡等地，退于太湖之中。俞大猷与副使任环大败海寇于陆泾坝，烧毁敌船三十余艘。又在三丈浦对向海外逃走的倭寇予以拦击，击沉敌船七艘，海寇退往三板沙停泊。不多时，另外一支倭寇犯吴江，俞大猷与任环又在莺月豆湖伏击，倭寇逃往嘉兴。三板沙倭寇掠夺民船作逃跑的打算，俞大猷追击到迹山，擒获倭寇目。金泾、许清、白茅港的倭寇见势不妙，都乘船海，俞大猷追击到荣山，焚毁五艘敌船。倭寇逃到迹山、三板沙，官军又追上，破坏了三艘敌船。江蔡港倭寇也企图逃走，官军在迹山、图、宝山分别与敌作战。正值飓风掀起，海盗船沉没不少。柘林的倭寇亦遭官军攻击，击沉船只二十余艘，其余的倭寇退到岸上。稍后，又乘船向海外逃窜。俞大猷与佥事董政分路攻击，俘获敌船九艘。在大风的袭击下，敌人又损失战船三艘，剩下的三百人回登岸，逃到华亭陶宅镇驻守，屡次击败赵文华所率大官军。夜倭寇屯驻周浦永定寺，官军四面合围。此时柘林遭风暴袭击的九船倭寇屯集于川沙洼，并纠合其他失散倭寇船只共计四十余艘，兵势尚未止息。巡抚曹辅弹劾俞大猷放纵敌人，嘉靖帝恼怒，剥夺其世袭特权，并说他该当死罪，令俞大猷立功赎罪。由于官军对周浦倭寇围攻甚急，倭寇乘夜掩护向东北逃窜，遭到游击曹克新的拦截，杀死敌人一百三十名，其余倭寇遂与川沙洼的倭人汇合。各路官军日夜攻击，川沙洼的倭寇烧掉营地乘船海。俞大猷带副使王崇古海追击，在老鹳嘴赶上敌人，焚毁倭寇大船八艘，杀伤无数。残余倭寇逃往上海浦东。

起初，因倭患严重，特地任命都督刘远为总兵官，兼职辖苏、松诸郡，在几个月的时间内毫无作为。廷臣争说俞大猷有将才。嘉靖三十五年(1556)三月遂将刘远罢免，任命俞大猷为总兵官。倭寇犯西庵、沈庄及清洼，俞大猷偕同董政击败敌人，倭寇逃到陶山，皇帝为此诏令归还俞大猷世袭特权。倭人自黄浦向外逃遁，俞大猷追击挫伤敌人。这年冬天，因为参与讨平徐海的功劳，加职为都督佥事。徐海众被讨平后，浙西的倭患止息。只有宁波舟山的倭寇依据险要，与官军抗衡，官军将其围困，而难以攻克。此时作战勇猛的狼兵、士兵都已遣散放归，而从四川、贵州调集的麻寮、大剌、镇溪、桑植六千名士兵刚到。俞大猷乘大雪天，四面攻击舟山倭寇，倭寇拼死作战，杀死了士官一名。各路官军愈益争先，冲上去焚毁了敌人栅栏，倭寇死亡甚多，逃来的也被歼灭，舟山倭寇被官军扫平。

第二年，胡宗宪正以计谋取汪直，听从卢镗的建议与汪直通市贸易，俞大猷表示决的反对。后来汪直被诱捕下狱，汪直余党海峰等于是据守舟山，在岑港设寨阻挡官军。俞大猷围击，不时有一些小的胜利。然而仰攻不利，冲上去的将士多被敌人杀死。倭寇大批增援而来。朝廷急切地督促胡宗宪战，胡宗宪以大话敷衍。朝中士大夫竞相诋毁胡宗宪，并弹劾俞大猷。于是撤销俞大猷及参将戚继光的职务，并以一月为期限，平定倭寇。俞大猷等觉压力甚大，于是对倭寇发动了更加猛烈的攻击，倭寇也更加死守。三十七年(1558)七月倭寇才自岑港移驻柯梅，造起一批战船后，泛舟逃去。俞大猷等在海上拦截，击沉倭船一艘，其余倭寇于是乘船向南，动攻掠闽、广一带。俞大猷先后杀倭四五千人，几乎平定倭患。由于官军将倭寇围击一年而不能攻破，胡宗宪觉得倭寇走更有利，于是暗地让敌人溜，并不督兵邀击。等到御史李瑚就此事弹劾胡宗宪时，胡宗宪则将罪责推到俞大猷上，嘉靖帝大怒，下令逮捕俞大猷，再次剥夺他的世袭荫庇的特权。

陆炳与俞大猷的私人关系很好，他暗地里用自己的家私向严世蕃行贿，俞大猷得以狱，并命他去边立功赎罪。大同巡抚李文了解俞大猷的才华，跟他一起筹划军事。于是俞大猷设计制造抵御敌人骑兵的独车。他曾用百辆独车、三千骑兵，在安银堡大败敌人。李文向朝廷推荐了俞大猷的这一战车御敌之法，朝廷因此设置了兵车营。京师营卫中有兵车营这一编制，从此时开始。李文准备偷袭蒙古落，就商于俞大猷，依计行事，果然大有战绩。朝廷因此赐还俞大猷世代荫庇孙的特权，接着敌人攻掠广武，俞大猷又将其击退。此前在评定平息汪直倭患的功劳时，朝廷同意将俞大猷免罪录用。至此，镇。。现匪情，川湖总督黄光升向朝廷推荐了俞大猷，俞大猷即任命为镇。。参将。

广东饶平贼人张琏，数次攻陷城邑，多年没有平定。嘉靖四十年(1561)七月，皇帝下诏调俞大猷去南赣，集合福建、广东兵力讨伐。这时胡宗宪兼江西，他知张琏远离巢，要俞大猷迅速追击。俞大猷说“：应以奇兵偷袭他的巢，攻击他必须救护的要害，怎么可以用数万人的队跟着张琏一人到动呢？”于是迅速带一万五千人登上柏岭，俯视盗贼营地。张琏果然回来救援，俞大猷连败张琏，斩敌一千二百余人。盗贼恐惧，守营不。俞大猷用计诱张琏战，派人从阵后将其擒获，还擒获另一目萧雪峰。广东人将功据为己有，俞大猷亦不计较。俞大猷遣散张琏余二万人，没有杀戮一个。俞大猷升为副总兵，协助驻守南、赣、汀、漳、惠、诸郡。又乘胜征讨程乡的盗贼，梁宁逃走，徐东洲被擒获。林朝曦约请黄积山谋求大举抗拒官军，官军攻破贼营，斩了黄积山，林朝曦逃去，但后来也被徐甫宰所击灭。不久俞大猷升为福建总兵官，与戚继光一攻下兴化城，共同击败海上倭寇。事迹详载于戚继光传。由于戚继光率先破城，得到最奖赏，俞大猷仅被赐给银币而已。