当然，还有一个不服的——南陈。
在整顿完内部，打服了北方以后，隋文帝终下决心，发动这场一统天下的最后一战。公元587年，杨坚首?灭掉了盘踞在荆州一带的后梁政权，打掉了南进的障碍。此时南陈正是荒唐皇帝陈后主在位时期，他沉迷诗词创作，常聚一群文士作乐，国家朝政大多荒废。
公元588年，杨坚以晋王杨广为大元帅，着韩擒虎和贺若弼兵分两路大举南征。这次南征，杨坚很重视“宣传工作”，在诏书里历数了陈后主13条大罪，在江南地区广为散发。此时荆州地区也被隋朝占有，南方政权原本可以倚仗的长江天险已经不复存在。陈后主偏偏自己作死，隋朝大兵压境他竟然毫不慌张，说金陵有“王气”，隋朝根本过不了长江。结果短短几天，南方各州县望风披靡，隋朝两路大军势如破竹，很快就包围了南陈国都建康。
此时建康城中尚有兵马十多万，完全可以背城一战，甚至可以做到突围而出，但先前自信有王气的陈后主却吓破了胆，整日只知道躲在深宫里以泪洗面，他本就爱好诗词创作，一生里写的最经典的几首悲情诗，大多出自此时。但写诗救不了他，隋军随后发起强攻，轻易攻破了建康城，陈后主和后妃躲在枯井里，最后被隋军士兵给搜了出来，活活的做了俘虏。公元589年四月，陈后主连同被俘官员200多人被押至北方，至此，自西晋末年开始分裂数百年的中国，终于重归一统。这是隋文帝的不世功勋。
