公元279年，即咸宁五年十一月，晋武帝采用羊祜生前拟制的计划，发兵20万人，分六路进攻吴国。晋灭吴之战，是统一全国的战争，也是强者消灭弱者的一场战争。晋国具有各方面的优势，但主政的司马炎仍经过长期准备，精心策划，严密部署。
弱小的吴国面对强敌，反而轻敌大意，毫无有效全面的防备措施，结果一败涂地。司马炎的六路大军势如破竹，逼降吴主孙皓，一举灭吴国，实现了天下统一。
早在晋武帝司马昭灭蜀后，就筹划剿灭吴国，当时他在政治、经济和军事上采取了一系列措施。
在政治上，晋武帝厚待刘禅及诸葛亮等人的子孙，以巩固其在巴蜀的统治，解除后顾之忧。同时，对吴国实行分化瓦解政策，以动摇其军心民心。改善内政，屯田积谷，安定边防。
在军事上，晋武帝优选将帅，调整部署，以尚书左仆射羊祜都督荆州诸军事，镇襄阳；征东大将军卫瓘都督青州诸军事，镇临淄；镇东大将军、东莞王司马伷都督徐州诸军事，镇下邳；依羊祜之建议，任王濬为益州刺史，随后又加封龙骧将军，都督益、梁州诸军事，命其在巴蜀大量建造战船，训练水军。
晋军所建造的大型战船，可装载2000余人，上构木城，筑起楼橹，四面开门，船上可骑马驰骋。后命其加快造船进度。如原来王濬在巴蜀只奉令以五六百屯田兵造船，后来又增加各郡士兵10000人，一年就完成了造船任务，使水军的舟楫之盛，自古未有，为实现水陆并进灭吴，提供了重要的军事力量。
276年，晋灭吴的准备基本完成。征南大将军羊祜奏请伐吴，指出伐吴的条件已经成熟。应不失时机地向东吴进军，并根据“因顺流之势，水陆并进”的战略方针，提出了灭吴的部署。
其要点是：针对吴军部署上东强西弱的情况，确定在徐州、扬州方向实行牵制，首先集中水陆主力夺取夏口以西地区，然后顺江而下，集中全力合击吴都建业。
这一方针的好处是：水陆并进，多路齐发，可以充分发挥水陆军的优势，从薄弱而又重要的长江上中游横切纵割，一举粉碎吴军的整个防御体系，从而达到速战速决的目的。
晋武帝接受了羊祜的建议，但由于西北鲜卑族首领起兵反晋，后方不稳，加之太尉贾充等的反对，使伐吴战争拖延了下来。公元278年，羊祜死，晋武帝以杜预继任征南大将军，总理诸项军事。
孙吴方面，面对晋军进攻的严重威胁。一些大臣深感忧虑，认为吴国虽有长江天险，但不可久恃，因此向孙皓建议，加强内部的安定和经济实力；同时为防晋军从上游顺流而下，加强建平沿江防务。但这些有重要战略价值的建议，都没有被吴主孙皓采纳。
孙皓认为，晋无力攻吴，且吴有长江天险，难以攻破。因此他不修内政，暴虐如故。在军事上不重军备，放松长江上游的防务，当然更谈不上通盘的战略考虑和进行全面的防御准备了。
公元279年，晋灭吴战争正式拉开帷幕。晋武帝发兵20万人，分六路进攻吴国：镇军将军、琅琊王司马伷自下邳向涂中方向进军；安东将军王浑自扬州向江西出横江渡口进军；建威将军王戎自豫州向武昌方向进军；平南将军胡奋自荆州向夏口方向进军；征南大将军杜预自襄阳向江陵方向进军，尔后南下长江、湘水以南，直抵京广；龙骧将军王濬，广武将军、巴东监军唐彬自巴蜀顺江东下，直趋建业。
晋武帝以太尉贾充为大都督，冠军将军杨济为副，率中军驻襄阳，节度诸军；中书令张华为度支尚书，总筹粮运。
公元280年，安东将军王浑所统率的10多万大军向横江方向进军，派出参军陈慎等率部分兵力攻击寻阳；派殄吴将军李纯率军向高望城进攻吴军俞恭部。李纯于当月占领了高望城，击破俞恭军，推进至横江以东，夺占了渡江的有利渡场。与此同时，参军陈慎军攻取了阳濑乡，大败吴牙门将孔忠等。吴厉武将军陈代、平虏将军朱明等率部众降于晋军。
吴主孙皓得知晋王浑率大军南下，即命丞相张悌统率丹阳太守沈莹、护军孙震、副军师诸葛靓率兵30000人，渡江迎战，以阻止晋军渡江。张悌军行至牛渚，沈莹向其建议，应集中兵力于采石，等待晋军前来决战，若能打败晋军，即可阻止晋军渡江，还可西上夺回失地。如若渡过江去与晋军决战，不幸失败，大势必将去矣。
但张悌却认为吴国即将灭亡，人人早已看清，晋兵一至，众人心中必然恐惧，难以再整军出战。趁着如今晋大军未到，渡江与其决战，或许还有希望获胜。于是，张悌决心率军渡江迎击晋军。
张悌军渡江后，于杨荷正遇王浑部将城阳都尉张乔率7000兵马赶到，张悌军随即将张乔军包围。
张乔兵微势弱，便闭寨请降。副军师诸葛靓认为：张乔是以假投降行缓兵之计，拖延时日，等待后援，我应急速进兵予以歼灭。
但张悌却主张放过他们，因为强敌在前，不可因小敌而出战。于是接受张乔投降后，率兵继续前进，随即与王浑主力部队之司马孙畴和扬州刺史周浚军列阵相对。
吴将孙莹首先率领5000精兵向晋军攻击，三次冲击均未奏效，被晋军斩首二将，不得不退兵。晋军则乘吴军退兵混乱之机，以将军薛胜、蒋班率军追杀，吴军大败。此时，伪降的张乔军又从背后杀来，吴军溃败而逃。
副军师诸葛靓见大势已去，收集败兵数百逃回江南。张悌不肯逃走，与沈莹、孙震力战而死。吴军30000多人部分被斩，余皆逃散，晋军遂胜利推进至江边。
琅琊王司马伷所率的一路大军，自出兵以来，迅速进至涂中后，令琅琊相刘弘率兵进抵长江，与建业隔江相峙，以牵制吴军。同时，派长史王恒率诸军渡过长江，直攻建业。王恒军进展顺利，一一击破吴沿江守军，歼灭吴军五六万人，俘获吴国都督蔡机。
龙骧将军王濬军在长江上中游获胜之后，便挥军顺流而下，三月到达牛渚。当进至距建业西南50里时，吴主孙皓才派遣游击将军张象率水军10000人前往迎击。但吴军此时已成惊弓之鸟，张象的部队一望见晋军的旌旗便不战而降。王濬的兵甲布满长江，旌旗映亮天空，声势十分盛大，继续向前推进。
原先吴主派往交趾征讨郭马的将军陶浚，行至武昌时，听到晋军大举进攻的消息，便停止去交趾，返回了建业。吴主孙皓便授其符节，命其率军20000人，迎击晋军。结果，20000军队出兵前夜便逃散一空。
此时，王濬、王浑和司马伷等各路大军已逼近吴国京师建业所处长江段的北岸，吴国司徒何值、建威将军孙宴等交出印信符节，前往王浑军前投降。
吴主孙皓见自己内部已分崩离析，便采用光禄勋薛莹、中书令胡冲等人的计策，分别派遣使者送信给王濬、司马伷、王浑处，请求降服，企图挑唆三人互相争功，引起晋军的内部分裂。
但按晋武帝原先的规定，这时的王濬晋军应由王浑节度，而王浑屯兵不进，又以共同议事的名义，也要王濬停止进军。但王濬不顾王浑阻拦，统率水陆80000之众，方舟百里，进入建业。孙皓面缚出降。
至此，晋军连克东吴4州43郡，降服吴军23万，东吴政权宣告灭亡，三国长期分裂的局面也随之结束。
胜利消息传来，晋武帝执杯流涕说：“此羊太傅之功也，惜其不亲见之耳！”未参与战事的骠骑将军孙秀退朝时，向南而哭说：“昔讨逆壮年，以一校尉创立基业；今孙皓举江南而弃之！悠悠苍天，此何人哉！”
晋灭吴之战是我国战争史上第一次大规模突破长江天堑的进攻战。此役创造了水陆俱进、多路并发、顺流直下的大江河进攻方略，为后世用兵于长江提供了借鉴。
在当时的情况下，千里长江天堑是难以克服的障碍，何况吴国以舟楫为舆马，水军向来强大。
针对这种情况，晋武帝编练了一支强大的水军。这支水军从巴蜀起航，沿江东下，破铁锁，除铁锥，斩关夺隘，所向披靡，只用40多天就驶抵建业。然后又不失时机地配合步兵发起总攻，终于迫使吴主孙皓投降，灭亡了吴国。
吴国地跨大江南北，战乱较少，有相当的经济和军事实力，军队总人数为23万，尤以水军为强，有舟船5000余艘。而吴国国君孙皓却不修缮内政，暴虐荒淫，导致民穷财竭，上下离心；孙皓又自恃水军强大，凭借长江天险，戒备松散；吴军士气的低落由来已久，这是其政治极端腐败、人心丧尽的必然结果。这些因素对晋灭吴无疑是十分有利的。
晋武帝司马炎，在灭亡了蜀汉，经过长期的战争准备之后，终于以六路大军，水陆并进，直捣东吴京师建业，一举灭亡了东吴政权，使我国自东汉末年开始长达90年的战乱和三国鼎立纷争的局面宣告平定，我国又重新统一于一代新的封建王朝治理之下。统一顺应了社会发展的需要，对当时社会前进起了积极的推动作用。
