受皇上，选属，任命太祖为北中郎中兵参军。太祖为母亲陈太后服丧，服丧期满后起用为武烈将军，重新任建康令，中兵参军仍旧保留。景和年间，授予后军将军。宋明帝即位时，任右军将军。

当时四方反叛朝廷，会稽太守寻王刘房和束各郡都起兵。宋明帝加封太祖为辅国将军，率兵束讨。到达晋陵，与叛贼前锋将领程捍、孙昙罐等战，一天攻破叛贼十二个营垒。分派军队平定各县，晋陵太守袁标弃城逃跑，东境各城相继逃奔溃散。

徐州刺史薛安都在彭城反叛，他的侄索儿犯淮，山太守程天祚率全城反叛，徐州刺史申令孙又投降叛军，宋明帝征召太祖前往讨伐。当时太祖刚平定东叛贼回来，又要到南讨伐。队都城后驻扎在新亭，先队已经发，但索儿自睢陵渡过淮河，骑兵步兵万余人，击杀官军将领孙耿，纵兵先队张永营地，前方告急。明帝听说叛贼渡过了淮河，急忙召太祖回来前往救援，驻守破釜。索儿向钟离攻，张永派宁朔将军王宽占据盱眙，阻截他回去的路。索儿击败官军将领庆，把他们赶到石鳖，准备西归。王宽与官军将领任农去抢先占据了白鹄涧，张永派遣太祖驰奔王宽督军，索儿向东阻击太祖，使太祖无法前往。太祖击鼓行军，结成战阵，直接冲王宽的营垒，索儿望见不敢发兵。过了几天，索儿率军停留在石梁，太祖追击到葛冢，巡逻侦察的骑兵回来报告说敌军到了，太祖于是把队停留在引，分派两路骑兵在营两边，等候敌军。一会儿，敌军的骑兵步兵突然赶到，又推带火的战车数路攻。双方相持了很久，太祖就派轻装队攻敌军西侧，派骑兵在敌军后侧合击，敌兵大败，追击逃奔的敌兵，缴获他们的武和仪仗。太祖率驻石梁涧北。索儿夜裹派一千人前来偷袭军营，营内惊慌，太祖躺着没有起，下令边的人巡视队，不得动，不久敌兵就散去了。太祖谋划想在石梁西南的地修筑营垒，打通南路，截断敌人的退路。索儿果然前来争夺地，太祖率军击败了他们，敌军人自相践踏而死。索儿逃往钟离，太祖追到黯才返回。太祖升任骁骑将军，封为西县侯，邑六百。太祖转任陵王卫军司，随陵王镇守会稽。

江州刺史晋安王勋派临川内史张淹自鄱沿着陡峭的山侵三吴地区，官军将领沉思仁与伪龙骧将军任皇、镇西参军刘越绪各自占据险要固守。宋明帝派太祖率领三千人讨伐叛军。当时朝廷的武战甲都补充了南伐的军队，太祖军队装备缺乏。于是编棕作为衣，砍竹作为武，夜裹举着火把军。贼军望见恐惧，没有战就逃走了。太祖还师后任桂王征北司、南东海太守、行南徐州事。

当初，明帝派张永、沈攸之率领军队劝说薛安都投降，对太祖说：“我现在趁此机会北伐，你意下以为如何？”太祖回答说：“薛安都才识不足，狡猾有余。如果对他的控制松缓一些，他一定会派儿来朝。如今用兵他，他就会因为害怕而考虑自存之计，恐怕对国家不利。”宋明帝说：“诸路军队勇猛锐，无往则不胜。你们策前行，请不必多说。”薛安都见朝廷兵到，果然招引索虏帮助，张永等兵败彭城。淮南军队势孤力弱，于是任命太祖为假冠军将军、持节、都督北讨前锋诸军事，镇守淮。

泰始三年，沈攸之、吴喜北败于睢，诸位守城的大小官员全逃回。胡虏于是到淮北，包围鱼球，负责守城的买法度军力薄弱，不能抵挡。诸位将领劝太祖渡到河北岸救援，太祖不准。派官军将领庆指挥数百架弩机，在淮河中的浮船上，远远地向城外的胡虏。弩机一发数百支箭一起去，胡虏骑兵率相躲避，然后命令攻，很快解了城围。太祖升任督南兖徐二州诸军事、南兖州刺史，持节、假冠军、督北讨等职仍旧保留。五年，位督兖、青、冀三州。六年，任命为黄门侍郎，领越骑校尉，没有接受。又授冠军将军，保留原来的任命。

宋明帝经常疑忌太祖相貌不似人臣，而民间也有言，说“萧成当为天”，明帝更加疑虑。他派遣冠军将军吴喜带三千人使北方，让吴喜把军队停留在破釜，自己带着银壶装的酒去赏赐太祖。太祖着戎装门迎接，当即酌酒喝下。吴喜回来后，明帝心中才兴起来。七年，明帝征召太祖返回京师，下劝他不要去京城。太祖说：“诸位看事情不太明白。皇上诛杀自己的各位弟弟，是因为太幼弱，要作后之事的考虑，跟其他族的人有何关系。我祇应立即发，事情延缓了必定被怀疑。如今皇室骨自相残害，气运自然不会长久，祸难将要兴起，正好与你们共同努力。”任命太祖为散骑常侍、太左卫率。当时世祖军功当另封赣县，太祖认为一门二封，决推辞不接受。皇上下诏同意，增加邑二百。

宋明帝去世，遣诏任命太祖为右卫将军，领卫尉，加兵五百人。与尚书令袁粲、护军褚渊、领军刘劭共同掌军机大事。又另东北选举的事。不久解去卫尉之职，加任侍中，领石戍军事。