梁国建立以来，台城第三次面临被攻破的可能。第一次是侯景围攻，第二次是萧绎的荆州军讨伐侯景，前两次都以攻城一方的全胜而告终。如果历史再次重演，那么南朝就将彻底画上句号。
陈霸先在上一次台城攻防战中是攻方，他看穿侯景的弱点，率部击溃了侯景；这一回，他是守方，擅长进攻的陈霸先在防御上的经验略显不足，他向新近收入帐下的韦载问计。
韦载是韦叡之孙，自小熟读史书兵法，很有战略头脑。他分析说：“齐军若是分兵据守通向三吴的道路，侵占东南，那可就不妙了。秦淮河南面有侯景留下的营垒，我军应抓紧时间在此基础上筑城，保障向东的运输通畅，然后另派轻骑兵切断齐军的粮道，使其进无可掠，退无可资，则不出十日，齐军必破。”
陈霸先大受启发，命合州刺史徐度在冶城（今江苏南京朝天门一带）修木栅，韦载等人在秦淮河南岸筑城堡，阻挡齐军东进路线；派侯安都乘夜潜入江北，烧了上千条齐军的船只；又派大将周铁虎劫粮，活捉了负责押运物资的北齐北徐州刺史张领州。
陈霸先一连串的组合拳令徐嗣徽与他的北齐后援军军心沮丧。徐嗣徽怕夜长梦多，主动进攻冶城的防御工事。陈霸先亲率精兵打开台城西明门出击，大败徐嗣徽。徐嗣徽见势不妙，留下齐将柳达摩守石头城，自己一口气退到了江边上的采石。
陈霸先也不直接打徐嗣徽，他命侯安都偷袭徐嗣徽的老巢秦郡（今江苏六合），俘虏了徐嗣徽的士兵和家人，还缴获了琵琶、老鹰等战利品，遣使转送给徐嗣徽，表示“原物奉还”。徐嗣徽大惊，想回据石头城，又被侯安都击退，军资武器统统落入梁军囊中。
石头城这边，守将柳达摩也是连战不利，木栅被烧，船舰被夺，死伤无数。陈霸先将石头城四面包围，城中缺水，柳达摩难以坚持，向陈霸先请和。
齐军示弱，架子却不放下来，柳达摩提出条件，要陈霸先派质子。战场上的梁军占有一点优势，但建康城防薄弱，军粮缺乏，群臣都怕重蹈江陵的覆辙，不愿再战。陈霸先说：“既然大家都想跟齐国谈和，如若我不同意，你们一定会以为我是不想派质子，不顾国家利益；我决心派质子，但是齐国人不守信用，以为我国弱小，必然背盟再来，到时诸君可得与我协力抗敌！”陈霸先以侄子陈昙朗与永嘉王萧庄为人质，送残余的齐军渡江北归。两国盟约，各自休兵。
陈霸先的确需要这个难得的停战间歇，掉转枪口对付东南的纷扰。他派侄子陈蒨与爱将周文育攻打吴兴的杜龛、王僧智。杜龛有勇无谋，嗜酒如命，部将杜泰败降献城，杜龛被斩，王僧智与弟弟王僧愔逃往北齐。陈蒨、周文育又进袭会稽，消灭了王僧辩的亲信、东扬州刺史张彪，三吴地区彻底安定了。
不出陈霸先所料，北方的表面和平只维持了三个月。北齐天保七年（梁太平元年，公元556年）三月，齐文宣帝杀掉之前作战不利的柳达摩，撕毁盟约，派大将萧轨、厍狄伏连、东方老与任约、徐嗣徽领兵十万，发动新一轮的伐梁战役。梁军已有准备，北齐军在梁山（今安徽当涂一带）和历阳（今安徽和县）被陈霸先帐下大将黄丛、侯安都击破，主力退守上游的芜湖。
两军对峙到五月，北齐出个怪招，说只要送回废帝萧渊明，齐军就走人。陈霸先明知北齐出尔反尔，也不揭穿，同意备船遣送萧渊明。可是才过了几天，萧渊明毒疮发作，一命呜呼。有人说是陈霸先做了手脚，也有人说是北齐派人暗杀了这位傀儡王爷。不管怎么样，萧渊明的死使得战事骤然紧张起来。
