汉献帝初平三年，在曹操迎献帝回许县后，吕布乘刘备出兵抗击袁术的机会，夺取了徐州，并自称徐州牧。刘备战不过吕布，只好带着关羽、张飞等到许都投奔曹操，得到曹操厚礼相待。
因为刘备已经被陶谦表为豫州刺史，于是曹操以天子的名义正式任命刘备为豫州牧。
刘备的到来，引起了曹操集团内部的争议，程昱对曹操说：“我看刘备有雄才，又深得民心，终不会久屈人下，不如趁此机会把他除掉，以绝后患。”
不管曹操当时心里怎么想，但他嘴上坚持说：“今天我们正在收揽天下英雄，杀一人而失天下之心，不可！”
此后，曹操不仅给刘备增加兵众，供给军粮，还请他到沛县去收聚散兵，准备讨伐吕布。
那时候曹操的主要对手是北方冀州的袁绍，东南扬州、淮南地区的袁术，东边徐州的吕布，南方的张绣、刘表，西北方的马腾、韩遂等人。这些人中，以袁绍的势力最强，马腾、韩遂尚未对曹操构成威胁。
曹操把朝中大事安排妥当后，准备出征消灭群雄。他和谋士们商议，有的主张先对付吕布，有的说要先消灭自称皇帝的袁术，也有的说要先征服关中的马腾、韩遂，而曹操却提出必须首先征服离许都最近、威胁最大的张绣。
曹操认为，如果先消灭吕布，张绣就会和荆州刘表联合，袭取许都，后果就不堪设想了。最后，曹操采取了北和袁绍、由近及远、先弱后强、各个击破的方针。
建安二年正月，曹操亲率大军讨伐张绣。张绣，武威祖厉即今甘肃靖远人，年轻时为祖厉县吏。董卓被杀后，他跟随其叔父凉州将军张济与李傕等打败吕布。
李傕、郭汜专擅朝政后，张济为骠骑将军、平阳侯，张绣为建忠将军、宣威侯。建安元年冬，张济因为军中缺粮，率部来到荆州，在进攻穰城时被刘表打败，张济战死。
此后，张绣统领残余的兵马占据了南阳，屯驻在宛城。张绣派人前往华阴将依附将军段煟的贾诩请来，做自己的谋士。
贾诩是武威姑臧人，和张绣是同郡人，原来是李傕、郭汜手下谋士，张绣对他的智谋很钦佩。后来李傕势败，贾诩投靠占据华阴的段煟。段煨表面上尊敬他，实际上并不信任他。贾诩很想离开，张绣使者来后，他马上去了宛城。张绣拿他当父辈看待，言听计从。
贾诩献出的第一个谋略是劝张绣依附刘表，并亲自到襄阳去见刘表商谈。刘表表示愿意与张绣联合，同意张绣占据南阳。
不过，贾诩这次同刘表接触之后，有些心灰意冷，回来后对张绣说：“在天下太平时，刘表具有做三公的才能；在天下大乱时，他就看不清形势，而且多疑不决，缺乏主见，成不了大事。”因此，张绣只是采取与刘表表面联合的态度，借以保存自己，并不想真心依靠他。
张绣在南阳地区招兵买马，训练军队，势力日渐强大，这不能不引起曹操的注意，以致引大军来征。
建安二年春，曹操让荀彧留守许都，他亲率大军出征张绣。面对曹操的征讨大军，张绣听从贾诩的劝告，投降了曹操。这当然是出于被迫，并非真心。
曹操兵不血刃，便使张绣投降，心中万分高兴。轻易得来的胜利使他滋长了骄傲情绪，行为也变得很不检点。他在宛城置酒高会，在和人行酒时，他的亲随校尉典韦总是手持大斧跟在后面，搞得张绣和部将异常紧张，不敢仰视。更令张绣不能容忍的是曹操竟然将他的婶母纳为妾。
曹操对张绣也产生了怀疑。张绣手下有一位将领叫胡车儿，非常骁勇。曹操就让手下人同他结交，并送给他许多金银。
张绣听说后，怀疑胡车儿帮助曹操图谋自己性命，很是害怕，便与贾诩计议，先发制人。
在一个晚上，趁着曹操毫无准备，张绣领兵偷袭曹营，曹操慌忙应战。最后幸得校尉典韦率兵力战，才得以逃脱。
典韦在激战中，身受十多处创伤，大骂而死。曹操的长子曹昂、侄儿曹安民也被杀害，曹操右臂中箭，险些丧了性命。
曹操率领残兵败将退到舞阴后，得知典韦英勇战死的消息，不禁流下了悲痛的眼泪。他派人从小道去取回典韦的尸体，哭祭一番，然后送回陈留家乡安葬。
曹军在这次败逃过程中，平虏校尉于禁的军队没被打散，且战且退。在赶往舞阴途中，于禁遇见十多个赤身受伤的人，一询问，得知他们是被青州兵抢劫了。
于禁大怒，追讨青州兵，历数他们的罪行。青州兵逃到曹操那里去告状。于禁到达舞阴后，没有立即去见曹操，而是先把营帐安扎好。
有人对于禁说：“青州兵已经向曹公控告您了，您应当赶快拜见曹公进行申辩。”
于禁回答说：“现在敌人还在后面，不知道什么时候就会追到，如不事先做好防备，如何迎敌呢？况且曹公明断，哪里会轻信谗言？”
等到一切安排就绪之后，于禁才去拜见曹操，将情况说明。曹操很高兴地对于禁说：“宛城之事，我很被动。将军在混乱中能保持队伍的整齐，以坚固的壁垒对付敌人，有不可动摇的节操，即使是古代名将，也不过如此啊！”
正说话间，张绣的军队追了上来。曹操立即命令于禁等迎击，张绣败走，曹军乘势占领了南阳、章陵。张绣退守穰城，又派人去荆州与刘表联合。
曹操总结这次失败的教训时，对诸将说：“我接受张绣的投降，由于没有及时留下他的亲人为人质，以致引起了他的反叛，造成难以挽回的损失。现在我明白过来了，大家看吧，从今以后我不会再遭到这样的失败了。”
曹操这段话其实并没有找出失败的真正原因，他这次失败的主要原因还是由于自己骄傲轻敌。
曹操从舞阴回到许都后，为了表彰于禁的功劳，表封他为益寿亭侯。因为典韦为自己战死，曹操又任命典韦的儿子典满为郎中。
接着，曹操派谒者仆射裴茂率领段煨等关西诸将讨伐李傕。建安三年四月，李傕退守黄白城，被张横、梁兴等击败斩首，曹操下令夷灭三族。首级献给曹操后，汉献帝命令高挂在许都示众，表达他对李傕的强烈痛恨。这期间，郭汜被他的手下部将伍习所杀。至此，董卓、李傕、郭汜集团，宣告彻底灭亡。
与此同时，曹操为了稳住马腾、韩遂，以便集中力量在东方用兵，派遣侍中兼司隶校尉钟繇持节督关中诸军。钟繇到达长安后，写信给马腾、韩遂，讲清利害关系，劝他们不要轻举妄动。马腾、韩遂表示服从朝廷，并遣子入侍。
九月间，袁术侵犯陈地，曹操率军击败袁术。在曹操巡视淮、汝一带时，谯国谯人许褚率领一批壮士前来投归。许褚，字仲康，长八尺余，腰大十围，容貌雄毅，勇力绝人。
曹操得到许褚，高兴地说：“这真是我的樊哙啊！”当即任命他为都尉。此后，许褚便同此前典韦一样，成为曹操的亲随侍卫官。
这时，南阳、章陵等县又反叛曹操，拥戴张绣。曹操派曹洪进讨，曹洪作战不利，退守叶县。张绣、刘表得势，多次前来进攻。
不久，曹操再次率兵南征张绣。当曹操到达淯水边时，他想起了以前在这里阵亡的将士，便祭奠、痛哭了一番，随军将士们无不感动。
曹军首先大举进攻湖阳，许褚率领壮士冲锋在前，生擒了刘表的部将邓济，攻下湖阳。曹操立即提升许褚担任校尉。接着曹操又顺利拿下了舞阴，然后率军回到许都。
汉献帝建安三年，曹操准备三征张绣，军师荀攸劝阻说：“张绣与刘表相依为强，但张绣是外来的，依靠刘表供应军粮，时间一长，必然有矛盾，不如暂缓以观其变，或施以离间之计。如进攻过急，他们反而互相救援，难以收功。”
曹操急功近利，报仇心切，不听劝阻，果然出师不利。刘表和张绣联合起来，使曹操腹背受敌。
正在进退两难时，忽又得到荀攸派人送来消息，说袁绍谋士田丰劝袁绍出兵偷袭许都。曹操大惊，决定立即退兵。与此同时，他写信给荀彧，说他到安众必破张绣，请荀彧放心。
曹操大军到安众后，装着逃跑的样子。张绣一见，急忙要追，谋士贾诩劝阻说：“不可去追，追必败。”
张绣不听，结果大败而回。喘息未定，贾诩却催促他说：“赶快再追，准能打胜！”
张绣摇头说：“刚才不听公言，打了败仗，怎么又去？”
贾诩笑着说：“兵势有了变化，这时追击必然胜利。”
张绣收散兵再追，果然大胜而还。
张绣糊涂了，请教贾诩说：“我上次以精兵去追，公言必败，这次用败兵去追，公说必胜，结果都如公言，原因何在？”
贾诩笑着解释道：“是这样，将军虽善用兵，到底不是曹操的对手。曹操初退，他必定亲自断后，故知你必败。曹操在打败将军之后，力未尽而退，必定国内出了事，既然打败了将军，他必然轻军先回，留下诸将断后，诸将虽勇，却又不是将军的对手，所以用败兵去追，也能打胜。”张绣听了，叹服不已。
曹操回到许都，才得知一切平安。原来，袁绍最终没有采纳田丰的意见，袭击许都。
过了一年，袁绍和曹操的对抗形势越来越明显，袁绍派人招纳张绣，并写信和贾诩通好。张绣想和袁绍联合，贾诩却当面对袁绍的使者说：“请你回去告诉袁绍，谢谢他的好意。他们兄弟尚且不能相容，怎么会容天下国士呢？”
张绣大惊，问贾诩说：“我们怎么办？”
贾诩直截了当地说：“不如投奔曹公。”
张绣不以为然地说：“且不说袁强曹弱，况且我们已经和曹操结下深仇，他怎么会接纳我们呢？”
贾诩笑了笑说：“正是这样，我们要归顺曹公。一是曹操奉天子以令天下，名正言顺；二是袁绍强盛，我们这么少的兵马依从他，他不会看重我们，而曹公力量弱，得我必喜；三是有志于建立霸业的，不会计较个人的私怨，以表明他能容纳四海、胸怀博大，曹公就是这样的人，将军不要多疑了。”
张绣无话可说，就率部归顺曹操了。曹操见他们投奔而来，忙亲热地拉着张绣的手，与之欢宴。并让儿子曹均娶了张绣的女儿，同时还拜张绣为扬武将军，封为列侯。
曹操对贾诩说：“使天下人看重、信任我，是您的功劳啊！”并上表举荐他为执金吾，封都亭侯，担任冀州牧。不过因冀州还未平定，就让贾诩暂时担任司空军事。从此，贾诩成了曹操的重要谋士。
