却偏偏从海上掩袭而至，王国庆惊慌失措，弃州而逃，余党逃散海岛，或者据守山。

杨素派人从陆两路分追捕，并且暗中叫人对王国庆说：“你的罪状，累计起来以死刑还不够。

只有斩送智慧，才可以抵罪责。”王国庆于是把智慧押来，在泉州将其斩首。

其余那些被打散的党羽，也都来投降，江南大为安定。

祖派遣左领将军独孤陀到浚仪迎接犒赏杨素。

等杨素回到京城，来问候他的人每天都有。

祖拜杨素的儿玄奖为仪同，赏赐黄金四十斤，外加一个银瓶，里面盛满了金钱，细绢三千段，两百匹，羊两千，官田一百顷，住宅一。

并且任命杨素取代苏威了尚书右仆，和赹一同执掌朝政。

杨素情疏而才好，尊卑贵贱都放在心里，朝廷大臣之中，他非常推举赹，敬重弘，薛衡，而对苏威却不屑一顾。

朝中其余的权贵大多被他欺凌。

他的才学、本领、气度、风格比赹要；至于用自己的诚心察国事，理事情公平适当，有宰相的见识气度，就比赹差远了。

不久，祖命令杨素监营造仁寿，杨素指挥平山填谷，督促劳役十分严急，工的很多都累死了，殿旁边经常听到鬼哭声。

仁寿修好后，祖命令赹前往察看，赹报告说殿修得过于绮丽，损失民工太多，祖心里颇不兴。

杨素忧虑惧怕，却想不什么办法，只好在北门启奏独孤皇后说：“帝王理当有一些行、别墅，现在天下太平，我们仅仅修造了这么一座殿，哪里就谈得上浪费了呢！”皇后把这番话转告祖，祖这才消除了心中的不快，于是赐给杨素一百万钱，三千段锦绢。

开皇十八年(598)，突厥达可汗犯边。

祖拜杨素为灵州行军总，讨伐，并赐给他织两千段、黄金一百斤。

这之前，众将和突厥人作战，总是担心胡人的战横冲直撞，都把战车和步卒骑兵相互掺杂，与形似鹿角的障碍一起布成方阵，骑兵在方阵之内。

杨素对别人说：“这只是巩固防御的途径，而不是夺取胜利的方法。”于是全废除了原来的作法，命令诸军布设骑兵方阵。

达听了非常兴，说：“这是天助我！”并且下直拜上天，然后率领兵十多万攻来。

杨素奋力击，大败敌骑。

达受重伤逃走，其余被杀死杀伤的不计其数，幸存者都哭号着逃跑了。

祖下诏书大大表扬杨素，赏赐给他细绢两万匹，外加一条万钉宝带，加封他的儿玄为大将军，玄奖、玄纵、积善一并升为上仪同。

杨素很有随机应变的谋略，总是把握好时机去同敌人作战，他应对情况的变化并不拘泥于一定的方法，而控制军队严厉有序，如果有谁违犯了军令，他就立即斩首，没有宽容的。

每次临战之前，他总是寻找别人的过失而将其杀掉，多时达一百来人，少的时候也不下十来个，血满地，他仍然谈笑自如。

等到两军对垒，他总是先命令一两百人前去和敌人战，攻破敌阵倒还罢了，如果没能攻破敌阵而败回来的，不有多少人，他都一律死。

然后再派两三百人继续攻，作法和先前一样。

将士们两发抖，害怕至极，认为退大不了都是一死，因而战无不胜，杨素也因此被人们称为名将。

杨素当时受到重用信，他说的话祖没有不听的。

那些跟随他征讨伐的人，只要有一小小的功劳，就会记载下来，至于跟随其他将军的，即使立了大功，也多被文官所排挤掉。

所以杨素虽然严厉残忍，士兵们还是愿意跟着他。

开皇二十年(600)，晋王杨广为灵朔行军元帅，杨素为长史。

晋王降低自己的份结杨素，后作太，也是杨素的主意。

仁寿初年，杨素取代赹了尚书左仆。

祖赏赐给他好一百匹、母两百匹、婢一百。

这一年，祖又拜杨素为行军元帅，前往云州攻打突厥，连连破敌。

突厥逃跑，杨素率领骑兵追不舍，到夜里终于赶上。

杨素想再次攻，又怕敌人分散逃跑，就命令骑兵稍稍跟在后边。

他于是亲自带领两名骑兵和两个投降的突厥人潜敌阵，同敌人一起前行，敌人没有发觉。

等到敌人停下来，止宿屯驻的地方还没安排好，杨素命令后边的骑兵突然袭击，大败他们。

从此，突厥人逃得远远的，碛南再没有他们的踪迹了。

因为这次的战功，祖让杨素的儿玄位国，玄纵为淮南郡公，并赏赐给他织两万段。