，叹“：谶文误了我！”于是把他及其妻儿女都斩了。祭遵引兵南击邓奉弟邓终于杜衍，攻破了。这时涿郡太守张丰捉住使者举兵造**，自称无上大将军，与彭连兵。

建武四年(28)，祭遵与朱。。及建威大将军耿。。、骁骑将军刘喜共同攻击张丰。祭遵兵先到，急攻张丰，张丰的功曹孟。。捉住张丰投降。起初，张丰喜好方术，有士说张丰当天，以五彩裹着石系在张丰的肘上，说石中有玉玺。张丰相信了，就造**。既被捉当斩，他还说：“肘有玉玺。”祭遵将其石椎破，张丰才知被士骗了，仰天叹：“当死无所恨！”诸将都引回，祭遵受诏命留屯良乡抵拒彭。因而派遣护军傅玄袭击彭将李豪于潞，大破其军，斩首千余级。相拒一年多，几次挫败其锋，彭党徒许多都投降。等到彭死，祭遵军以平定其地。

建武六年(30)，诏令祭遵与建威大将军耿。。、虎牙大将军盖延、汉忠将军王常、捕虏将军武、骁骑将军刘歆、武威将军刘尚等从天伐公孙述。军队停留长安，光武车驾也到了，而隗嚣不想让汉兵上陇，借故推脱以为辞说。光武召集诸将商议。都说“：可以暂时拖延隗嚣日月之期，加封他手下的将帅，以促其分散瓦解。”祭遵说：“隗嚣怀挟谋已久。现在如果兵不动拖延时日，就会促使他诈谋更，而使公孙述增加警备，所以不如直接兵。”光武听从了，就派遣祭遵为先锋。隗嚣派其将王元拒于陇坻，祭遵击，破王元军，追到新关。等到诸将到，与隗嚣战，都失败了，引军退陇。光武诏令祭遵屯军于。。，令耿。。屯军于漆，令征西大将军冯异屯军于。。邑，令大司吴汉等回军长安。自此以后祭遵几次挫败隗嚣。事见《冯异传》。

建武八年(32)秋，再从光武上陇。等到隗嚣破灭，光武东归经过。。，到祭遵军营，劳饱飨士卒，作黄门武乐，夜才停止。这时祭遵有病，诏赐厚厚的坐褥，上面覆盖着皇帝用的御盖。再令他兵陇下。等到公孙述派兵援救隗嚣，吴汉、耿。。等全都逃奔而回，只有祭遵独留不退却。

建武九年(33)，在军中去世。祭遵为人廉洁约束小心，克己奉公，所得赏赐常常尽数给予士卒，家里没有私人财产，穿韦带布衤夸，盖布被，夫人的衣服不加彩，帝因此看重他。他死后，怜悯悼念尤甚。祭遵灵柩到河南县，帝诏遣百官先到治丧场所会齐，光武着白丧服驾临，望着哭泣哀恸。回经城门，阅过丧车，涕泣不能自已。丧礼成，又亲自以太牢之礼祭祀，如宣帝办霍光丧事一样。诏大长秋、谒者、河南尹护丧事，大司农负责费用。博士范升上疏，追称祭遵说：“臣闻先王崇的德政，尊崇好，扌屏弃丑恶。以前祖大圣，见远虑，分爵割地，与下分功，把功臣的事迹记载在簿籍上，歌颂他们的德。在生时以特殊礼节以示，奏事免于报名，门不必急走。死了以后封以爵邑，令其无绝嗣位，又颁赐使其世世代代享受特权的契券，使其恩传于无穷。这是我大汉对功臣后代赐给的长久恩德，所以累及十多世，历数两百余年，废而复兴，绝了又为之续嗣。陛下以至德而受命，光大先祖之，依次表彰辅佐，封赏有功之臣，与祖宗的法度相符合。征虏将军颍侯祭遵，不幸早逝。陛下仁恩，为之伤，远迎河南。忧伤哀恸，表现于圣躬，治丧用度，由国家献给，重赐妻儿女，不可胜数。送给死者有加于生者，厚赙亡者以抚亲属，矫正世俗振励教化，如日月。古时臣病了君来看望，臣死了君来吊丧，这是厚的君德。但这君德遭到破坏已很久了。陛下重新恢复这仪礼，臣下都为之动，莫不自相激励。臣私下看到祭遵修行积善，竭忠于国，北上平定渔，西上抗拒陇、蜀，先登陇坻，取略。各路兵都退了，而他独留不退。他能制约驾御士兵，使他们不逾越法度。他军队所在地的官吏民众，不知军队的存在。清名传播于海内，廉洁清白著名于当世。他所获得的赏赐，常常尽数分给吏士，上没穿过稀贵的衣服，家里没有私人财产。同母弟祭午以他无，为他娶妾送给他，祭遵使人拒不接受，自以为任国事，不敢贪图生活考虑继嗣的私事。临死前还遗嘱叮诫用车载灵柩，薄葬洛。问他的家事，始终无所言。任重远，死而后已。祭遵为将军，选人才都用儒术，对酒设乐，必唱雅诗投壶。又为孔建庙立后，奏置《五经》大夫。虽在军旅，不忘祭祀，可说是遵礼仪悦礼乐，死守善的人了。礼，生时有爵位，死了就应谥封，爵位是用来区分尊卑，谥封是用来明白善恶。臣以为应在祭遵死后，论叙众多功劳，详细照谥法，以古礼成全之。以显示国家遵守古代章法制度，为后世立定嗣法。”帝于是把范升的奏章下示给公卿。等到安葬，帝车驾再亲临，赠以将军、侯的印绶，用漆红了的车装着，让武士们排成军阵送葬，谥封为成侯。安葬完毕，光武再亲临其坟，妥为安置其夫人家室。其后会朝，帝常叹：“怎能得到忧国奉公的像祭遵那样的大臣呢？”祭遵之见思于光武其如此。无，封国废除。兄祭午，官至酒泉太守。