王濬迎难而上了，公元273年，这个庞大的计划在四川开始启动。从工程开始就困难重重，首先是缺人。这种新型战舰，每一艘的长度是120步，可装载士兵2000人，战船上还有高大的堡垒，堪称是当时世界的航空母舰。造这样的庞然大物，没人是玩不转的，但这时候四川真没人。早年王濬镇守四川的时候，主要精力就是开垦农田，恢复生产，当地闲散劳动力极少，而今要造船，势必就要征发大量农夫，农业荒废不说，一旦征发过度，很可能引起农民反抗。王濬很聪明地解决了这个难题，他尽可能缩减征发民夫的数量，调动了大量镇守四川的卫戍部队参加工程。人手还是不够，他又调动了四川各衙门的衙役甚至官吏。在这个问题上，王濬主动起“干部带头作用”，他自己就吃住在工地现场，参与劳动，如此一来，就没人敢开小差了。
工程进度安排上，王濬很有办法，比如他用当地库存的绸缎，与四川本地的土人交换木材，这就俭省了发动民夫进山伐木的工序，整个工程一半以上的木材，都是同当地各族的贸易中得来，造船效率大大提高。同时他设立了轮班制度，各地的驻军按时间轮流参加建造，尽可能节约劳动力。且王濬也知道，要战胜东吴，仅仅有战船是不够的，更要拥有一支战斗经验丰富的水师。按照一般将领的安排，肯定是先有战船，然后再训练水师，王濬很讲统筹方法，在造船进行的过程中，他就把大量水师部队调进了造船现场，一边建造，一边进行水师训练，并通过造船的过程，让士兵们熟悉战船。
这项规模浩大的工程，在西晋政府先前的预算里，是需要5年时间才能完工的，而落到王濬手里，他只用了1年时间就完成了。不过王濬千算万算，还是漏算了1件事：工程如此巨大，势必会有大量造船期间的木屑顺流东下，而他们的东边，就是东吴政权，如此一来，饶是你严守秘密，事情终究是要露馅的。
东吴人确实知道了，在当时东吴人占据的四川巫山，就有大量的木屑漂来。驻守在当地的边将，是东吴末期的著名将领吴彦，此人立刻明白了王濬想干什么，火速向东吴国主孙皓禀报了此事，但孙皓不以为然。虽然如此，吴彦并不敢掉以轻心，他立刻在东吴水域的江面上建造了大量的木桩，并且用铁链连成一片，用来防备西晋水师东进。
造船计划圆满完成，东吴加强边境防御的消息，也很快传到了西晋。这时候的西晋，在是否南下灭吴的问题上，依然分歧颇大。当时支持南下灭吴的，大多是一些功勋卓著的地方实权派，比如一直赏识王濬的名将羊祜，以及杜预、张华等人，这些人都是当时西晋政权的实干派，希望借灭东吴来成就千古奇功。竭力反对的，是早年帮助晋武帝司马炎夺权的贾充等人，反对的理由，大多是拿之前西晋乃至北魏多次征讨东吴无功来说事。
真正的原因却没这么简单。这帮人是靠着帮助司马炎夺权来确立自己地位的，他们中大多数人在军事上并无建树，一旦灭东吴战争爆发，那些地方军将的地位势必提高，自己的地位也势必遭到威胁。这里面反对最积极的，就是司马炎的宠臣贾充，他不但多次阻挠进军行动，还秘密授意手下人整羊祜的“黑材料”，诬陷羊祜勾结东吴，图谋不轨。这场争论在造舰计划完成后，就一直不断，到了公元278年，一直主张平灭东吴的羊祜去世了，他的去世，既让主战派少了一个实力派人物，也让王濬失去了一个赏识自己的知音。如果没有人挺身而出的话，此时实力占上风的反对派们，必然会竭力阻挠南征计划，中国的统一大业，恐怕又要推后了。
这个时候王濬挺身而出了，在他之前，张华、杜预等人都曾上奏章要求南征，司马炎却迟迟下不了决心，真正让他拿定主意的，正是公元279年王濬的奏章。在这封奏章里，王濬并没有像其他人那样拿着双方的军力对比说事，因为这样的论调别人都说滥了，王濬只说了一件事：如今东吴的国主孙皓昏庸残暴，已经闹得众叛亲离，即使西晋不去进攻他，他也很可能会被东吴军民推翻，到那个时候，如果东吴方面重新拥立一个贤明的君主，那么灭掉东吴，就是难上加难了。这本奏章让司马炎明白了这个事实：现在灭东吴，是千载难逢的最好机会，过了这个村就没这个店了。
司马炎自然不想错过机会，王濬的奏章送上去不久，司马炎就颁诏灭吴。三国历史上最后一场大规模战争开始了，西晋的南征大军兵分为六路：琅琊王司马伷负责攻打苏北和安徽，建威将军王戎负责攻打武昌，平南将军胡奋负责攻打夏口，镇南大将军杜预负责攻打江陵，安东将军王浑负责攻打淮西，身为益州刺史的王濬，负责率领他亲手打造的无敌舰队顺江东下。从东到西的千里战线上，沉寂多年的晋军全线出动。这次南征的“总指挥”，是长期以来的反战派贾充，他被司马炎委任为大都督。即使在这个时候，贾充仍然拼命反战，先是拒绝从命，在受命之后又多次拖延，擅自修改进兵日期，他很清楚自己几斤几两：搞阴谋是个好手，打仗他是白痴。
任命贾充为南征大都督，是司马炎的“政治平衡”之策。开战之后，西晋的进军并不顺利，在贾充的瞎指挥下，华东、华中的几条战线都遭到了挫折。好在最关键的一路，指挥者是王濬，他从四川出发东下，碰到了晋军灭吴战役中最硬的钉子：当年吴彦在巫山设立的阻遏西晋水师的防线。这条防线可以说是煞费苦心，在巫山峡谷水域之中，吴彦在江面险要的地方打了不少大木桩，钉上大铁链，把大江拦腰截住，又把一丈多高的铁锥安在水面下。王濬的无敌舰队，就好像一群面临冰山的泰坦尼克。在“冰山”面前，王濬早有办法，他很懂水力学。对那些等着扎战船的铁锥子，他准备了大批竹筏，进攻的时候，先放竹筏子，竹筏子被铁锥扎到后，会卡在铁锥上，这样强大的水流就可以把竹筏以及卡住的铁锥一起冲走。这一招立竿见影，上千锋利的铁锥，一下子被竹筏连带着冲得无影无踪。至于铁锁链就更好办了，王濬在木筏上架着一个个很大的火炬，这些火炬都灌足了麻油，一点就着。他让这些装着大火炬的木筏驶在战船前面，遇到铁链，就烧起熊熊大火，时间一长，那些铁链铁锁都被烧断了。东吴煞费苦心构筑的防线，就这么化为乌有，王濬的东进之路，至此已经一马平川。
一马平川以后，就是势如破竹。公元280年正月，王濬攻克了东吴的重镇宜昌，俘虏了东吴的镇南将军留宪。这场战斗的过程让人啼笑皆非，当大群西晋战舰抵达宜昌的时候，从来没有见过这种庞然大物的东吴军队，居然一下子都吓傻了，半点反应都没做出来，就眼睁睁地看着西晋军队拿下了城池。二月，王濬又占领了湖北松滋，俘虏了东吴监军陆晏。他打胜仗的时候，其他五路大军的进程都不顺利，遭到了东吴军队的节节抵抗，正是相持的阶段，这时候王濬的胜利，恰好成为压倒天平的最后一根稻草，整个东吴的防线一下子全崩溃了。随后王濬与另一路大军胡奋部会师，连续拿下了夏口和武昌。所过之处，士气尽丧的东吴军队，已经失去了抵抗的勇气，只要看到“王”字战旗，不是投降就是逃跑。
