东汉献帝兴平元年，曹操攻下兖州，成为兖州牧，一时被胜利冲昏了头脑，不顾自己在兖州的根基尚未稳固，就急于报父弟之仇，继续发兵东征，诛杀逃亡丹阳的陶谦，以致后方空虚。
这时，陈留太守张邈的弟弟张超，与曹操的将帅陈宫、从事中郎许汜及王楷共同商议背叛曹操。
陈宫劝说张邈：“当今豪杰四起，天下纷争，您拥有那么宽广的土地和众多的兵士，占据着四方必争之地，抚剑四顾，也可称得上是人中豪杰，却反而受制于人，不是有损身份吗？今天兖州城里的军队东征，城内空虚，吕布是位骁将，善于打仗，勇往直前，如果暂且将他迎来，共同占据兖州，静观形势，相机行事，这样或许可以做出一番大事业呢！”
张邈听从了陈宫的意见，就同弟弟张超和陈宫等人迎接吕布，请他当兖州牧。
陈宫和张邈在兖州做官已有十多年，尤其是在陈留郡和东郡，拥有深厚的潜在势力。因此，他们一起来反对曹操，立刻得到一些郡县的响应。只有兖州治所鄄城和东郡的范县、东阿还在曹操控制之中。
陈宫准备自己领兵去攻打东阿，派氾嶷去取范城。与此同时，豫州刺史郭贡引兵数万也进入兖州，向鄄城进逼，而鄄城之内还有一些将吏与张邈勾通，形势对曹操一方非常严峻。
这时，留守鄄城的荀彧，派人把驻扎在东郡的大将夏侯惇调回鄄城。夏侯惇从濮阳赶赴鄄城时，中途遭到吕布军队的截击，夏侯惇怕鄄城有失，奋力冲杀，突围而出，吕布没去追赶，乘机占据濮阳。夏侯惇在那里的辎重，全部为吕布所得。
夏侯惇领兵来到鄄城后，当夜就把城内通敌的将吏数十人杀掉，稳定了军心。郭贡引军来到鄄城附近扎下营寨后，约求单独会见荀彧，荀彧准备亲自到郭贡军中去做说客。
夏侯惇等人劝他说：“现在您是一州的主事人，如果前去，必有危险，还是不去的好。”
荀彧说：“郭贡与张邈等平素没有结好，来得这样快，是想根据情况相机行事，何去何从还没有最后确定下来，应该乘他犹豫不定之时去陈说利害，纵然不能使他与我们合作，也可以使他采取中立态度。如果我们态度不好，他就很快倒向张邈、吕布一边，与我们为敌，那对我们就更危险了。”
夏侯惇等人听后，只好同意荀彧去见郭贡。
荀彧不顾个人安危，来到郭贡大营后，便向郭贡分析了形势，指出曹操是如何出类拔萃，很快就率领大军回来，而吕布是个反复无常的小人，虽然一时势盛，终究是要失败的，劝他不要帮助吕布与曹操为敌。
郭贡见荀彧毫无惧意，自信心很强，而且分析的情况也切合实际，又考虑鄄城很难拿下，曹操很难对付，便顺水推舟，领兵退去。
荀彧劝退了郭贡，心里安稳多了。他又与程昱商量守护东阿、范城的办法。
荀彧对程昱说：“如今叛乱遍及全州，唯有鄄城、东阿和范县三城在我们手中。如果陈宫以后派重兵围攻，三城军心就要动摇。您在此地军民心中很有威望，最好亲自去东阿、范县，安抚、鼓励他们，可以稳定军心，坚守城池。”
于是程昱就去了范城。见到县令勒允后，他阐述自己的见解：
如今天下大乱，英雄并起，必定有治世能人来平息战乱，聪明人在此时就要采取慎重的态度。
古往今来，得主者昌，失主者亡。陈宫叛迎吕布，好多地方响应他们，似乎能有所作为，但是吕布粗暴，很少有亲近之人，刚猛而没有礼仪，不过是匹夫之勇而已。陈宫等人是暂时凑合在一起，更不足为伍了。他们目前虽然人多势众，终究是要失败的。
曹公很有智谋，有治世之才，是天之所授。如果你固守范城，我回去守住东阿，定能获得成功。否则将违忠从恶，家破人亡，何去何从，请你深思。
勒允听后，表示自己对曹操没有二心，并将前来劝降的氾嶷杀掉，誓死坚守城池。
接着，程昱又来到东阿。东阿令枣祗态度坚决，正率领将士吏民坚守城池，一切安排得非常妥当。程昱非常高兴，并给他们以鼓励，更加坚定了他们守城的信心。经过荀彧、程昱的努力，三城终于保住了。
曹操从前线回来之后，拉着程昱的手说：“没有你的帮助，我将没有地方可去了！”于是上表奏请程昱为东平相。
曹操回兖州后，一方面派李乾到各县慰问，安抚百姓，争取人心；另一方面做进攻吕布的准备工作。
曹操认为，吕布既已得到了兖州，却不及时占领东平，切断亢父、泰山的要道，据守险要，阻断自己的归路，反而驻守在濮阳，从这就可以看出他是毫无谋略的。于是曹操决定亲率主力，去濮阳与吕布决一雌雄。
东汉献帝兴平元年五六月间，曹操进军濮阳，这时吕布在濮阳城已做好了迎敌准备。曹操命于禁攻打吕布在城外南面的大营，命“青州兵”攻打西面的大营。
于禁顺利攻破了吕布的两座大营，可是“青州兵”却被吕布打败，损失惨重。曹操见状，决定亲自领兵在夜间偷袭濮阳城西吕布的大营。
当晚，曹操偷袭成功。他正在高高兴兴准备撤走时，吕布领兵赶来救援，两军又展开激烈战斗。
从黎明一直到中午，曹军有些支持不住了，曹操决定边战边退，并临时组建敢死队断后。
大将典韦首先站出来，愿意加入敢死队，还有数十人愿意同典韦协力作战。于是，由典韦等人组成的敢死队身穿两重衣铠，手持长矛短戟，保护曹操撤退。
敌军见曹军向后退去，紧追不舍。典韦对同伴说：“敌人离我十步时，告诉我！”
等敌军近前时，同伴说：“十步了！”
典韦又说：“五步时再告诉我！”
同伴无不恐惧，齐声惊呼：“敌人到了！”
于是典韦手持十余支短戟，回头大喊一声，将戟随手掷出，敌人无不应声而倒。敢死队齐心协力，拼命抵挡，杀死不少敌人。
敌人害怕，不敢再追，到了天黑时，曹操才退回营寨。
曹操回寨后，非常感激典韦，马上拜典韦为都尉，带领亲兵数百人，守卫在曹操大帐左右。
与吕布接战失利，曹操很是不安。他在大帐中苦苦思谋对策。忽然接到濮阳城中大姓财主田氏派人送来的一封信，在信中田氏表示愿意做内应，曹操喜出望外，当即同田氏约定了时间、暗号和具体办法。
在约定的这天晚上，曹操领兵悄悄来到濮城东门，通过暗号，田氏家丁将城门打开，曹操率领人马入城。为了提振士气，曹操下令火烧东门，表示决不后退。然而，曹操却不知道，这是吕布设下的圈套。吕布得知曹操中计进城后，立即将其包围。曹操见情况不妙，回师向东门撤去，在混战中与诸将也失去了联系。
正在惊慌失措时，吕布的骑兵赶来。曹操急中生智，忙把一个士兵的头盔拿来戴上，低着头，混在士兵之中，准备逃走。
吕布赶到曹操身边，没有认出他，只是用方天画戟轻轻敲了一下他的头盔问：“曹操在哪里？快说！”
曹操随手一指，回答说：“那边，骑黄马的就是曹操。”吕布放过曹操，去追赶骑黄马的人，曹操长出了一口气。
曹操刚逃出城来，跑出不远，就从马上掉了下来。原来是左手掌被烧伤，经过烟熏火燎，有些头昏眼花，支撑不住了。司马楼异急忙扶他上马。逃出来的人越来越多，一路上护着他回到大营。
诸将见曹操受了伤，战斗中又遭到较大损失，都纷纷向他请罪。曹操不责怪任何人，反而笑着对大家说：“胜败乃兵家常事，大家不用担心，我知道该怎样攻破吕布，报这个仇。”这样一来，大家就安下心了。
接着，曹操亲自到各营中去慰问将士，提振他们的士气，并下令军中制造攻城的器具，表示非把濮阳打下来不可。而后，曹操将计就计，诈称身亡，全军挂孝发丧，四周埋下伏兵。吕布果然中计被围，死伤甚众，最后逃回濮阳城中。
此后，双方相持有一百多天，互有胜负，吕布既不能攻占兖州更多的地盘，曹操也没有拿下濮阳。
在曹操同吕布相持期间，全国好多地区长期没有下雨，旱灾严重，后来兖州地区又闹了蝗灾，庄稼遭受严重灾害，好多地方颗粒无收，不少人因饥饿而死。
到了九月间，曹操、吕布军中都没有吃的，打仗也就更难了。曹操只好带着将士回到鄄城。
吕布在濮阳也维持不下去，于是领兵到附近去抢劫粮食，被当地豪强李进阻击，又向东转向山阳郡找吃的去了。
正在这时，袁绍派人来见曹操，希望曹操把家迁到邺城去，以加强双方同盟关系。袁绍在曹操同吕布激战不利的时候，不派兵前来支援，这时表示友好，实际上是想乘人之危，借机控制曹操。
曹操对此不是不清楚，但他考虑，战场上失利，灾荒严重，粮食很难筹集，有些士兵因此逃离队伍，处境非常困难，想依靠袁绍，以解一时困难，徐图发展，因此准备接受袁绍的“好意”。
当曹操同手下人商量时，程昱却立即劝阻。程昱说：“像袁绍这样的人，尽管他占据燕、赵广阔的土地，有并吞天下的雄心，但他的才智却不足以使他成功。将军掂量一下，能甘心做他的下属吗？以将军龙虎一样的声威，智勇兼备，能愿干韩信、彭越那样的事吗？而今兖州虽已残破，尚有三座城池，能征惯战之士也不下万人，以将军之英勇，加上荀文若和我等都愿为将军效劳，再广泛收罗人才，加以重用，霸业是不难成功的。请将军再认真考虑考虑。”
程昱的话打动了曹操，他权衡利弊后，打消了依附袁绍的念头。经过一段努力，曹操重整旗鼓，展开了收复兖州失地的斗争。
