公元1363年，即元至正二十三年，朱元璋在消灭陈友谅后，曾对全国的几股军事势力作了详细的分析：河北的元军有兵而无纪律；河南的元军有兵却没有战斗力；关中的李思齐、张良弼的军队因道路不通，导致粮饷供应不足；只有江南张士诚的军队能和我们抗衡。因此，朱元璋就把攻击的目标锁定在了张士诚的军队上。但是，要一举消灭张士诚，也不是一件容易的事，所以朱元璋还是采取了谨慎的战略。
张士诚早年以贩卖私盐为业，后来发了点小财，并结交了当地的豪绅买通官府，从而使得“生意”越做越大。后来他不甘心来自多方的敲诈，杀死了歹徒，从而闯下了大祸。
张士诚遭到了官府的通缉，当他走投无路时，便与其患难乡亲李伯昇等18人结盟，树起了造反的大旗，接连攻陷了泰州、兴化、高邮等长江下游的一些地区。
张士诚为人讲义气，轻财而好施与，因而受人拥戴。元末时期，张士诚率盐徒起义，于1354年在高邮称诚王，建国号为周，建元天佑。1356年，张士诚建都平江。此时，在张士诚控制的地区中有太湖流域的鱼米之乡，其物产是十分丰富的，自古以来就是我国经济发达的地区，最有可能成为成功人士物资保障的重要基地。
可是暂时取得胜利的张士诚此刻却不求进取，仅仅满足于现状。在攻取平江后，张士诚大兴土木，建筑富丽堂皇的楼台馆舍；养美女，日夜行乐；张士诚还怂恿当年和他一起走江湖的穷哥儿们花天酒地，因而导致部下日益腐化；就连作战时，将领们也是躺在家中不赴命；将领们即使是打了败仗也不会受到处罚，不会被兴师问罪。张士诚的弟弟张士信做了丞相后，生活也是极其荒淫，从来都不过问政事，进一步走向了低迷。
在如何攻打张士诚的问题上，朱元璋在谋士们的帮助下，制定出了详细的策略步骤。随着策略的逐渐成熟，朱元璋于1365年，正式下达了征讨张士诚的命令，并一举攻下了通州、兴化、盐城、泰州、高邮、淮安、徐州、宿州、安丰诸州县，将东吴的势力赶出江北地区。
与此同时，张士诚渡江夺取了苏、松，比朱元璋攻取集庆早了一个多月。张士诚先下手为强，折断了朱元璋东下三吴的路径，而元璋骑踞应天，也对张士诚构成了极大的威胁。由此不难看出，双方的争斗不可避免。
公元1356年，即至正十六年七月初三，张士诚首先发兵镇江，向朱元璋发起挑战，但却被徐达击败。消息传到应天，朱元璋随即发去3万兵马协助进攻。徐达驻军于常州城西，汤和驻扎于城北，张彪驻扎于城东南，从而形成了四面包围之势。
张士诚急派张九六率数万大军去增援，张九六也是一员猛将，他根本就没把朱元璋的军队放在眼里。徐达用兵一向谨慎，他看准了张九六的骄横，便决定用智取，最终将张九六擒拿。
张九六被俘后，张士诚十分沮丧。他一方面命令常州将士严密防守，一方面遵照母亲的命令，派使者孙君寿到应天下书，愿意每年输粮二十万石、黄金五百两、白银三百斤，罢战弭兵，各守封疆。可是，朱元璋却要乘胜拿下常州，于是便回书说“馈粮五十万石，即当班师”。张士诚不愿意接受这个苛刻的条件，于是谈判被迫中止。
张士诚经过休整，决心与朱元璋再战。五月初一，他派出左丞相潘原明、元帅严再兴屯扎上新桥，逐个攻城。永兴翼都元帅耿炳文却先发制人，进行了主动出击。潘原明、严再兴不能对耿炳文进行抵挡，边战边退，死伤惨重，有好几百人被生擒。
五月初五，朱元璋乘长兴得手，命镇守镇江的江淮分枢密院副使张鉴、佥院何文政渡江攻克泰兴。公元1357年，即至正十七年七月初五，朱元璋命邓愈移镇宁国路，准备向南攻取徽州路。朱元璋决定先由胡大海攻取绩溪，而后围宣城，攻打黟县、休宁、婺源，一路奏凯。在占领了宁国和徽州之后，朱元璋继续向东南方向扩展。
公元1357年，即至正十七年，对于朱元璋来说是春风得意的时光，东向奏凯，南指风靡，西部也有所拓展。江北除了据守泰兴外，10月又攻克了重镇扬州。
朱元璋的策略依然是避强打弱，着眼点仍在东部和南部。东部是以防为主，防中有攻；对南部则是稳扎稳打，步步推进。公元1358年，即至正十八年一开春，朱元璋与张士诚在江阴、常州展开了拉锯战。在战役中张士诚没得到什么便宜，双方暂时休战。
同年十月初，朱元璋命令胡大海攻下兰溪后，急速向婺州城挺进，但近两个月却一直未能攻克。朱元璋决定把优势兵力集中在浙西地区，尽快完成领土的拓展，并且完成对张士诚的北、西、南三面的钳制，同时还要堵住陈友谅向东的行进之路，打破他的紧缩包围。
不久，朱元璋率领大军抵达婺州城下。这时，有一个避乱严州的和州儒士王宗显受到了朱元璋的接见，他将刺探到的婺州城内将士各怀异志的情况作了汇报，朱元璋心里愈发清楚明白了。
朱元璋观察完敌阵后，说道：“松溪山多路狭，车行不便。我若派出一支精兵，必能制胜。他的援兵一破，婺州城绝望，内部涣散，可以不攻而下。”第二天，朱元璋出兵，果然是兵出捷至，胡深逃回处州，婺州陷落。12月20日，朱元璋率大军浩浩荡荡开进了婺州城。
进城之初，朱元璋便发布了严厉的军令，禁止将士抢掠。这时，有一个官员自恃为帐前亲随，因而不听从约束夺取了民财，当即就被砍了脑袋传首示众。为了稳定秩序，朱元璋命人在城内加强了日夜巡逻。
有一天晚上，朱元璋带领贴身护卫小先锋张焕夜间巡视，被巡逻哨兵阻拦盘问，张焕忙上前解释说：“这是大人。”要他赶快放行。
哨兵说：“我不管你们是什么大人，只知道犯夜的人一律捉拿。”张焕好说歹说才算放行。朱元璋见晚间秩序良好，巡哨也是非常地认真，很是高兴。
第二天，朱元璋派人给了那个哨兵二石米的奖赏。在饱经战乱和洗劫之后，婺州士绅百姓能够见到这样纪律严明的军队，感到十分庆幸。随后，朱元璋又开仓赈济，下令禁酒，更是远近传颂。
经过一段时间的调整后，朱元璋又将婺州路改为了金华府，并在这里设立了中书分省，并健全了政府衙门。任命王宗显为金华知府，协助朱元璋积极地大规模地礼聘读书士人。儒生们多年来第一次感受到了自己是如此受到当局的重视，便纷纷投效。
不久，朱元璋又礼聘得到了三个大名士，他们分别是许瑗、王冕和宋濂。许瑗是江西乐平人，在元朝末年两次考中举人。他劝朱元璋“非广揽英雄，难以成功”。许瑗受到了朱元璋极大的器重，做了参军，后来被升任为太平知府，最终死于太平保卫战。
王冕是绍兴路诸暨人，幼年家境贫穷，父亲无力供他上学，让他去放牛。王冕一边放牛，一边读书，还学习画画。后来被儒学大师收为弟子，王冕便成为闻名遐迩的通儒。朱元璋钦佩王冕的自强不息，又发现他的确有独到的见地，就任命他为咨议参军。尽管王冕也想大展所学，可不幸的是不久后他便病死了。
另一位名士名叫宋濂，在明朝建立后他成了明朝的开国文臣之首。朱元璋为了创造一个安定和睦、隆兴文治的氛围，命知府王宗显恢复了停顿多年的府学，而宋濂就做了金华府学的五经师。
与此同时，为了显示仁德之治，公元1359年，即至正十九年三月初二，朱元璋发布了宥囚之令，布告金华所属州县，除非是大逆不道或者是敌人的探子照旧关押外，其余罪无大小一律进行释放。
朱元璋在建设巩固金华根据地的同时，也对周边地区进行了进一步的谋划：对东部的方国珍安抚拉拢；对南部处州、衢州引而不发；对北部的张士诚则是先打他个下马威，攻中求守。
经过几个月的整顿建设，对金华的治理严而有序，朱元璋与军队的声望和影响也是越来越大了。在公元1364年，即至正二十四年，朱元璋称吴王，因1363年张士诚早已自立为吴王，因此，在历史上张士诚被称为东吴王，而朱元璋则被称为西吴王。
公元1365年，朱元璋正式下达征讨张士诚命令。战争开始前，朱元璋作了极其充分的准备。他特别加强了对军队的训练，从而来提高战斗力。他亲自检阅将士，进行分队演习，优秀者会有不同等级的银两奖赏，所有将士都给酒馔进行慰劳。
三天后，朱元璋派出有威望的统帅徐达、常遇春、胡廷瑞、冯国胜、华高等率马步舟师水陆并进，规取淮东、泰州等地。三天后他们进逼高邮，再围取淮安、濠州、泗州。
公元1366年，徐达攻取了高邮、兴化等地，4月又攻占了淮安。不久，朱元璋发书致宿州的吏民，招降也获得了成功。朱元璋再次以徐州为根据地，相继攻取了邳、萧和宿迁、睢宁等诸县。
至此，大约用了半年多的时间，朱元璋就把张士诚的势力驱逐到了长江以南。他占领了淮东地区暨长江北岸的大小诸镇，也完成了预期的计划，而后便准备直向张士诚的心腹地区进攻。
待淮东诸郡县平定后，朱元璋准备对张士诚发起大规模的歼灭战，夺取江南地区。在战前的军事会议上，朱元璋听取了大家的意见。为了争取群众，安定民心，朱元璋又发布了讨伐张士诚的檄文，因此展开了强大的舆论攻势。
朱元璋在檄文中揭示了元末的统治腐朽以及农民借宗教起义的深刻的社会背景，还有朱元璋本人从起兵到灭陈友谅的经历。同时，在文中还列举了张士诚的八大罪状。由此也可以看到，朱元璋正在极力表明他的强大已经超乎了元朝，其力量也是在各路起义军之上。
8月4日，徐达、常遇春统军20万，水陆齐发攻打湖州，四面进行围攻。张士诚派兵6万赶来解围，10月，双方战斗进入到了激烈的阶段，张士诚亲率大军增援。同年11月，杭州、湖州先后投降了朱元璋，平江成了一座孤城。于是，朱元璋以重兵包围平江，发动了平江战役。
平江是张士诚经营多年的地方，城防坚固，粮草十分地充足，所以要想攻克平江是极其不容易的。刘基曾一再说到张士诚胆小怯战，屡误军机，并非是贬抑之词。因为有许多大好的战机，都被他轻易地放过了。那时，朱元璋的绍兴、诸全守将谢再兴举起叛旗，投降了张士诚。
谢再兴辜负了朱元璋的信任，私下让左总管、糜万户两个心腹，到张士诚的辖地杭州，贩卖货物牟利。时间一久，事情败露。朱元璋怀疑左、糜两人来往杭州，泄露军事机密，下令把他们抓起来杀掉了，然后将两颗人头挂在谢再兴的厅堂上示警。
谢再兴感到异常愤恨，觉得朱元璋的手段太狠。于是，率领全体人马，挟持着李梦庚，投到了张士诚大将吕珍帐下。诸全是浙东军事重镇，对衢州、处州起着屏障作用，一直设重兵布防。谢再兴的叛变，使李文忠极为震动，但惧于对方的势力，不敢出兵征讨，只能派大将胡德济移师诸全五指山下，防范张部南侵。但是，这个极为有利的形势，也被张士诚错过了。
几个月之后，当朱元璋被陈友谅牵制在鄱阳湖中，身陷泥潭不能自拔时，这又是一次绝好的机会。而张士诚既不西击应天，也不南下浙江，而是安坐在姑苏城中，钟鸣鼎食，妾绕姬环，过得十分悠闲自在，仿佛虎视着他的强大敌手，能在他的宴乐声中，自行溃灭。其结果，自然是养虎遗患，自掘坟墓。
眼下，张士诚据守的疆土，南至绍兴，北达通州、泰州、高邮、淮安、徐州、宿州、濠州、泅州，直达山东的济宁。朱元璋决定先扫清江北地区，剪其羽翼，然后南下江浙，攻其腹心，步步为营，稳扎稳打，力求万无一失。
平江战役开始时，朱元璋筑墙围城，并造有三层的木塔楼，高过城墙，以弓弩、火铳向城内射击，还设襄阳炮日夜轰击。城内一片恐慌，张士诚几次突围都以失败告终。反复无常的张士诚贪图享受，对他的部下也是十分地放纵，这不得不说是致其失败的原因之一。
徐达率领部队开始进攻平江，他在城外垒起了长围，把城严严实实地围住了，从此便断绝了内外联系。徐达率军在长围外驻扎兵营，平江的八个城门都被围堵住了。
朱元璋的士兵进行猛攻，而张士诚的兵士却进行死守。在半年的时间里，平江仍然未被攻下。此时，张士诚城内的弹药已经用尽，他就自制飞炮，击中率也是很高的；等到城中的木石用尽，张士诚就开始命人拆祠庙、民宅为炮具。而城外的徐达则命令架木作房屋状，以竹笆支撑，军士埋伏其下，以此来展开攻势。
张士诚仍然死守着平江，双方相持已经长达10个月之久。这个时候的张士诚已经是面临外无救兵、内无粮草的窘境了。在平江被围困的最后一天，当张士诚的弟弟张士信正在胥门城楼上与参政谢节等一起用餐时，一盘桃子刚刚端上桌，随着一声巨响，一个飞炮打了过来，张士信的脑袋被炸得粉碎。
兄弟惨死，张士诚又沮丧，又愤怒，命令进行飞炮还击。一时间，炮声震耳，飞石满天，围城部队遭受到了很大的损失。直到公元1367，即至正二十七年九月初八，朱元璋率军攻入平江城，张士诚则展开巷战相抵抗。
后来，徐达听说张士诚逃跑，便追到了吴王府，不见张士诚的影子，急忙带人进府四处搜寻。只见张士诚和他的王后并排挂在了梁头上。徐达急忙命人把他们放下来进行抢救，张士诚被救活了，而他的妻子却永远地离开了人间。
死而复生的张士诚知道自己成了俘虏，竟一言不发，仿佛是一具死去许久的僵尸，徐达只得用门板将他抬到船上。张士诚躺在舱板上一动不动，不吃不喝，不言不语。第二天，张士诚被押到了应天中书省。
只见五花大绑的张士诚，被抬到了中书省的大堂上，接着，他又被按着跪到地上。张士诚仰头闭目，沉默不语。朱元璋问话，张士诚不搭理；李善长问他，张士诚则破口谩骂。
这时，朱元璋怒喝一声：“来人！给我将此贼乱棍打死！”随后，上来的四名武士便将张士诚按倒在地，乱棍齐下，不一会儿张士诚便气息全无了，东吴也随之灭亡了。经过两年多的浴血奋战，朱元璋终于取得了平定张士诚的完全胜利。
随后，徐达又根据朱元璋的旨意，与常遇春约定在攻占姑苏后各分一半进行抚定，因此大军进城之后，秩序井然，号令严肃，军士不敢妄动，居民晏然。
张士诚在平江失守之前，烧掉了征收赋税的图籍，而没有烧毁城中百姓的住宅和建筑。对此，平江百姓还是很怀念他的。朱元璋占据姑苏后，很快就把平江路改成了苏州府。
朱元璋总结了张士诚失败的教训，对群臣说道：“我初定应天，各守自己的境土，不曾有意对其攻伐。但他诱我将士，连年挑起战事，最终被擒。假如早有觉醒，对外睦邻，对内安抚百姓，岂能被打败？再又骄奢自娱，不念民艰，其下又没有对他忠心耿耿的谋士，终致失败。”
最后，朱元璋又定下了下一步行动的目标，说道：“现在陈友谅、张士诚二人皆被消灭，东南虽空，但中原尚存忧患。大家应当通力协作，不能自以为太平，而忘乎所以。汲取张士诚的教训，要引以为戒。”
大军凯旋回到应天后，朱元璋进行了论功行赏。他把李善长升为宣国公，徐达升为定国公，常遇春升为鄂国公，其他各将士也有相应的赏赐。
