，曹公到了黎，让儿曹整娶袁谭的女儿为妻。袁尚听到曹公北返的消息，撤走了平原的围兵，回到邺城。东平县的吕旷、吕翔叛离袁尚，驻军平县，带着自己的队投降了曹公，被封为列侯。

建安九年(204)正月，曹公率兵渡过黄河，截断淇，引白沟，作为运粮的通。二月，袁尚又攻打袁谭，只留下苏由、审守卫邺城。曹公率兵到了洹，苏由投降。一到邺城就发动攻击，堆起土山，挖掘地。武安县令尹楷驻守城，保护通往上党的粮畅通。四月，曹公留下曹洪攻打邺城，自己带兵攻打尹楷，打败后又回师邺城。袁尚的将沮鹄守卫邯郸县，被曹军攻克。易县县令韩范、涉县县长梁岐献城投降，赐给他们关内侯的封爵。五月，曹军毁去土山和地，绕邺城挖了一圈大壕沟，挖开漳河淹邺城；城中的人饿死了一大半。七月，袁尚回兵救邺城，众将都认为：“这是回返驻地的队，人人都会奋力作战，不如避开他们。”曹公说：“袁尚如果从大上返回，避让；如果沿着西山而来，这次就会被捉住。”袁尚果然沿着西山前来，靠着滏河扎下营寨。半夜里派兵偷袭围城的曹军。曹公迎战袁军，大败袁军，并下令乘胜包围他们的营寨。还没等到合围，袁尚就害怕了，派原来的豫州刺史夔和陈琳求降。曹公没有答应，加围攻。袁尚连夜逃走，退守祁山，曹军追击不止。袁将延、张靑等人临阵投降，袁军瓦解，袁尚逃往中山国。曹军缴获了袁军全辎重资，还得到了袁尚的印章、绶带、符节、斧钺，又让袁军降兵举着这些东西给他们城中家属看，城中人心慌。

八月，审哥哥的儿审荣趁夜打开自己守卫的城东门，引曹军城。审迎战失败，被活捉后斩首，邺城平定了。曹公亲自到袁绍墓旁祭祀，痛哭不已；还藉袁绍的妻，送还他家的仆人和珍宝，又赐给各丝绸棉絮，令官府供给他们粮。当初袁绍与曹公一起举兵之时，袁绍曾问曹公：“如果功业不成，那么什么地方可以据守呢？”曹公反问：“您认为怎么办好呢？”袁绍回答：“我南面据守黄河，北面依靠燕、代之地的险要，再加以戎、狄的兵力，然后南争夺天下，这样或许可以成大事了吧？”曹公回答：“我运用天下所有有才智的人的力量，用先王的思想驾驭他们，就会百战百胜。”九月，曹公颁布命令：“黄河以北遭受袁氏父之害的百姓，不今年的租税。”又加重了罚豪兼并土地的法令，百姓都很兴。献帝下令让曹公兼任冀州牧，曹公便辞去了兖州牧之职。曹公包围邺城的时候，袁谭攻占了甘陵县、安平国、海国、河间国几地。袁尚战败后，逃回中山国。袁谭又攻中山国，袁尚只得逃往固安县，他的队被袁谭吞并。曹公写信给袁谭，谴责他违背和约，并与他断绝儿女婚姻关系，让她的女儿回娘家去，然后军讨伐。袁谭很害怕，从平原县撤，跑到南县。十二月，曹公平原县，收回被袁谭攻占的郡县。

建安十年(205)正月，曹公对袁谭发起攻，打败了袁军，把袁谭斩首，并杀死了他的妻儿女，冀州被平定了。曹公又颁布命令：“凡是与袁氏一同过坏事的人，允许他们改过自新。”又命令百姓们不得再报私仇，禁止铺张浪费办丧事，违法的人一概依法惩。这个月内，袁熙的大将焦、张南等反叛，攻打袁熙、袁尚，他们二人逃往辽西、上谷、右北平三郡的乌地区。焦等人献县城投降，被封为列侯。当初讨伐袁谭时，一些百姓逃避破冰行船的差役，曹公下令官吏们不准接受他们投降。不久，逃亡的人有到军中自首的，曹公对他们说：“接受你们自首，就违背了军令；杀死你们，又死了认罪之人。你们最好回去躲藏起来吧，不要让官吏们捉着。”百姓们着泪走了，后来终于都被捕获。这年四月，黑山贼寇张燕率领十多万人投降，被封为列侯。故安赵犊、霍等人杀死了幽州刺史、涿郡太守。三郡的乌族在犷平攻打鲜于辅。八月，曹公带兵征，把赵犊等人斩首，又渡过潞河救援犷平。乌人逃到外。九月，曹公又颁布命令：“结党营私，互相勾结，是古代圣贤们所不齿的事情。听说冀州一带，父各立宗派，或相互诽谤，或胡捧。从前直不疑连哥哥都没有，却有很多人诽谤他与嫂通；第五伯鱼娶了三位夫人，三个夫人都无父，却有人诬蔑他殴打自己岳丈；王凤专权，把持朝政，谷永却将他与贤相申伯相提并论；王商忠正不阿，张匡却诋毁他搞歪门邪：这些都是颠倒黑白，欺骗上天蒙蔽君王的事情。我将整治社会风俗，上面列举的四项陋习不革除，是我终生的耻辱。”十月，曹公回到了邺城。当初，袁绍让他的外甥并州牧，曹公攻克邺城的时候，投降，曹公让他刺史。听说曹公前往讨伐乌族，趁机在并州叛，挟持了上党太守，派兵守住壶关。曹公派乐、李典二人前去平叛。退到壶关城固守。

建安十一年(206)正月，曹公亲自领兵征讨。闻讯，就留下其他将领守壶关城，自己逃到匈，向匈单于求救，但单于没有兵。曹公围困壶关城三个月后攻下了它。于是逃到荆州，被上洛县都尉王琰抓住并斩首。八月，曹公东征海贼承，到了淳于县，派遣乐、李典攻，将他击败，承逃到海岛上去了。分割东海郡的襄贲、郯、戚三个县以扩充琅笽郡，撤销了昌虑郡。三郡乌趁天下大之机，攻破幽州，抢掠汉族百姓十多万。袁绍曾把他们的酋长和首领都立为单于，并把本族人的女儿作为自己的女儿，嫁给他们为妻。其中辽西单于蹋顿势力最大，最受袁绍厚，所以袁尚兄弟来投奔他，他们多次侵边抢掠。曹公准备征讨乌，先开凿河渠，从呼沲河直到。。，命名平虏渠。又从氵句河凿通潞河，起名叫泉州渠，通向大海。

建安十二年(207)二月，曹公自淳于返回邺城。二月初五，又下令说：“自我举起义旗，平定暴到现在，已整整十九年了，这期间每战必胜，难这是我一个人的功劳吗？这都是贤才智士、文武百官尽忠尽力的结果呀！现在虽然天下还没有完全太平，还需我和他们一起去平定，但是我独享功劳，怎能安心呢！应该尽快给大家论功行赏。”于是大封功臣，功劳卓著的二十多人封为列侯，其余的也论功行赏，还免除为国死难者女的徭役租税，轻重各有等差。曹公想要北征三郡乌，众将都说：“袁尚只不过是个四散逃亡的敌人而已，乌人又贪财忘义，不讲究亲朋情，怎么能被袁尚利用呢？如今大兵其境征伐，刘备一定会劝说刘表袭击许都。万一真的发生变故，就会悔恨不及。”惟有郭嘉断定刘表不会相信刘备，鼓励曹公兵。五月，曹公带兵来到无终县。七月，因大雨而发，靠海边的路都不通，田畴请求当向导，曹公答应了。田畴带领大军了卢龙，外路被断绝不通，只好挖山填谷五百余里，经过白檀县，穿越平冈县，鲜卑族的居住地，向东直奔柳城县。距柳城二百多里的时候，敌寇已得知消息。袁尚、袁熙与蹋顿，以及辽西单于楼班、右北平单于能臣抵之等带几万骑兵前来迎战。八月，曹公登上白狼山，突然与敌兵遭遇，敌人数量很多。当时曹公的辎重资都在后面，穿战甲的人很少，左右随从有些害怕。曹公登上，望见敌军队伍混不整，便命张辽为先锋，率先主动向敌人发起攻，乌军四散崩溃，蹋顿以及族中许多有名之王都被斩首，胡、汉两族投降的有二十多万。辽东单于速仆及辽西、右北平的众位目，丢弃他们的族人，与袁尚、袁熙逃往辽东，仅剩下几千骑兵。当初，辽东太守公孙康自恃地域偏远，不服从辖。等到曹公打败了乌，有人劝曹公应该征伐公孙康，那样就可活捉袁氏兄弟。曹公说：“我正要叫公孙康砍掉袁尚、袁熙的脑袋送来，不用再派兵了。”九月，曹公带兵从柳城回返，公孙康立即把袁尚、袁熙、速仆等人斩首，把送到曹公军中。有的将领问：“主公回兵，而公孙康却砍下他们脑袋送来，这是什么缘故呢？”曹公说：“公孙康平素就惧怕袁尚等人，外攻太急，他们就会合力对付我们，暂缓攻，他们就会自相残杀，这是必然的！”十一月，曹公到达易岸边，代郡乌代理单于普富卢、上郡乌代理单于那楼带领本族的知名领赶来庆贺。

建安十三年(208)正月，曹公回到邺城，开凿玄武池训练军。这时，朝廷废除了三公，设置丞相、御史大夫。六月，曹公被任命为丞相。七月间，曹公南征刘表。八月，刘表病死，他的儿刘琮接替其职位，驻守襄，刘备驻守樊城。九月，曹公率兵抵达新野县，于是刘琮投降，刘备逃往夏。曹公兵江陵，命荆州一带的官吏和百姓同他们一样实行新法规。还评定荆州降官的功劳，封侯的有十五人，任命原刘表手下的大将文聘为江夏太守，让他领自己的兵，并举荐任用荆州名士韩嵩、邓义等人。益州牧刘璋开始接受征兵和纳税，遣送士兵补充军队。十二月，孙权帮助刘备攻合，曹公从江陵发兵征讨刘备，到达丘山，派张睯去援救合。孙权得知张睯到来，才撤兵离开。曹公抵达赤，与刘备战，战斗失利，这时发生了大瘟疫，官兵死了很多，曹公便带兵北回。于是刘备占领了荆州所辖的江南各郡县。

建安十四年(209)三月，曹公军到了谯县，制造快船，习军。七月间，曹军从涡淮河 红网，经过淝，在合住下。八月二十四日，曹公下令说：“最近几年来，军队多次远征，官兵都有死亡，有时还遇到瘟疫，不能再回家乡，夫妻难以团聚，百姓离失所，这难是仁之人愿意看到的么？是不得已才这样。特此命令：凡是死的士兵家中没有产业，难以维持生活的，政府不得停止供应粮，官吏必须问救济他们，这才合我意。”这年又在扬州设置郡县长官，开垦芍陂屯田。十二月，回返。建安十五年(210)天，又颁布命令：“自古以来，凡是开国和中兴的君主，无不靠贤人君帮助共治天下！君主得到贤才，足不巷，这难是侥幸碰上的吗？是在上的执政者不去寻访罢了。如今天下还未平定，这是正需要贤才的时候。孔说：‘孟公绰作赵、魏两家的家臣之长，是多多有余的，却不能作滕、薛二小国的大夫。’假如一定要廉洁之士才能任用，那齐桓公怎能称霸天下呢？难现在天下就真没有像吕尚那样富有才华却穿着破衣服在渭边垂钓的人吗？又有没有像陈平那样被诬与嫂私通，接受贿赂却还没有遇到识才的人吗？各位一定要帮我明察举荐低微的有才之士，只要有才就举荐，使我能够重用他们。”这年冬天，建铜雀台。