了共同作恶的段达等五十多人，冤枉被囚禁者全释放，无罪而被杀者加以祭祀并写祭文致以哀悼。用酒大大款待将士，品级等第颁赐品。祖令尚书左仆裴寂在军中劳。

六月，凯旋。太宗亲自披挂黄金铠甲，排列铁一万骑兵，穿铠甲士兵三万人，前后都敲鼓号，在太庙贡献俘虏的二伪主窦建德、王世充以及隋朝车乘。祖认为自古以来旧的官阶与特殊功劳不相称，于是另外发徽号，以表彰功勋德望。十月，加太宗天策上将封号、陕东大行台，位在王公之上。增加邑二万，连以前的共计三万。赐给金车一辆，王公之衮衣和冠冕一，玉璧一双，黄金六十斤，前后鼓及九之乐，仪仗四十人。

这时海内渐渐太平，太宗于是专心一意读图书经籍，开文学馆以接待四方才学之士。行台司勋郎中杜如晦等十八人为学士，每次在阁下值班，太宗则降低份以温和态度与学士们讨论经义，有时谈论到半夜才结束。

不久，窦建德旧将刘黑闼举兵造反，占据氵名州。十二月，太宗总统全军向东去讨伐他。五年(622)正月，军乡，分兵断绝他运粮的通，双方对峙两个月。刘黑闼被胁迫急于求战，率领步兵、骑兵二万人，南渡氵名，早晨便迫近官军。太宗亲自率领锐骑兵，攻击他的骑兵，攻破了他，乘胜冲击践踏他的步兵，贼兵崩溃，斩首级一万多个。先前太宗派人筑坝堵氵名上使变浅，让刘黑闼得已渡。等到作战之时，才命令挖开拦河坝，大冲到，一丈多，贼兵已经战败，逃到中都淹死了。刘黑闼与二百多骑兵往北逃到突厥，太宗全俘虏了刘黑闼的众，河北平定。当时徐圆朗带兵在徐、兖二州阻碍太宗，太宗这时便回师讨伐平定了徐圆朗，于是河、济、江、淮所有州郡城镇都平定。十月，加授太宗左右十二卫大将军。

七年(624)秋，突厥颉利、突利两个可汗王从原州侵，侵略扰关中。有人说服祖“：只因为府藏女金帛在京都，故而突厥前来侵，假若烧掉长安而不建为都城，那么胡人自必停止侵。”祖于是派遣中书侍郎宇文士及巡行山南可以居住的好地方，即想迁移京都。萧王禹等人都认为不妥当，然而终究不敢冒犯祖的威严而直言劝谏。惟独太宗“：霍去病，是汉朝的将帅啊，还立志消灭匈。臣惭愧位列封王，尚且使胡人侵不止，竟然令皇上议论想要迁都，这是我臣下的责任。希望皇上听任臣报效一次微劳，攻取那个颉利。假若一两年内不将他捉住，慢慢商议迁都的策略，臣再不敢重说反对迁都。”祖愤怒，仍旧派遣太宗率领三十多个骑兵巡行关中拟定铲平敌人之计划。太宗回军之日，决奏请不可迁都，祖于是停止迁都。八年(625)，加太宗中书令。

九年(626)，皇太建成、齐王元吉谋害太宗。六月四日，太宗率长孙无忌、尉迟敬德、房玄龄、杜如晦、宇文士及、士廉、侯君集、程知节、秦叔宝、段志玄、屈突通、张士贵等在玄武门杀了建成、元吉。六月八日，太宗被立为皇太，各政务皆由太宗决断。太宗于是放掉廷园中所养的鹰犬，并停止收取各方所贡的奇珍异宝，政理崇尚简要严肃，天下人大喜。又命令百官各个呈上封章奏事，详细陈述安定人心治国的关键。十三日，命令：“依照礼法，皇帝的两个名字不要为某一个字而避讳。近代以来，两个名字都避讳，废缺地方已经很多，任意避讳，有违经典。那些官号、人名、公私文籍图书，有‘世民’两个字不连续的，并不须要避讳。”撤销幽州大都督府。十五日，废除陕东大行台，设置氵名州都督府；废除益州行台，设置益州大都督府。二十六日，幽州大都督庐江王瑗图谋叛逆，废弃他为普通百姓。二十九日，撤销天策府。

七月六日，太左庶士廉任侍中，右庶房玄龄任中书令，尚书右仆萧王禹为尚书左仆，吏尚书杨恭仁为雍州牧，太左庶长孙无忌为吏尚书，右庶杜如晦为兵尚书，太詹事宇文士及为中书令，封德彝为尚书右仆。