陈伯之本是无赖出身，文化水平很低，除了会写自己的名字，大字认不得几个，更别提那些简洁晦涩的正规文书了。他在府内养了一批旧时的狐朋狗友、乡里乡亲，一一任命为别驾、参军，专门帮他处理这些繁杂公事。
领导没文化，政治能力不强，下面的人自然就会借机做些损人利己的坏事。坏事做多了，就传到梁武帝的耳朵里。陈伯之本非自己的嫡系，梁武帝多少有些担心，正好陈伯之的儿子陈虎牙在建康，他便派陈虎牙去江州劝戒其父，又另外派人去取代陈伯之任命的别驾邓缮。
朝廷方面的这一动作，陈伯之还是能读懂的，他当时就上表指出：“我手底下的人都有能力，也有业绩，朝廷方面派来的别驾，我请求让他做我的治中。”南北朝的时候，别驾和治中都是刺史手下的佐吏。别驾，顾名思义，便是当刺史出巡时，另外乘坐一辆驿车随行；治中，字面上也很明白，就是管理内部事务，换成现在的职位，就是文书档案管理员。同是部下，别驾与刺史的关系要亲近许多，在实权上也大于治中。陈伯之如此处置，是摆明了自作主张，不接受朝廷给他安排的那一套。
邓缮深知夜长梦多，每天在陈伯之耳边吹风：“朝廷现在是国库空虚，兵粮缺失，东面又在闹饥荒，此乃取而代之的时机，不可错过！”不只是邓缮，陈伯之身边的其他心腹褚緭、戴永忠等人也对建康的新朝廷严重不满（好容易找到个糊涂上司服侍，你朝廷想来坏我的好事，怎么可以？），一致赞成邓缮的意见。
陈伯之想了想，对邓缮说：“我再向朝廷上书一封力保你，如若皇上还不听我的，咱们就一起反了。”果不其然，梁武帝很快就发了批复，命令陈伯之在江州找一个郡，安排邓缮去任职。
陈伯之看看没什么讨价还价的余地了，就召集府内的将领佐吏，说：“我刚刚接到建安王（即萧宝夤，他在南齐时被封为建安王）的密令，他已经率领江北十万大军进驻六合，约我以江州兵力运粮东下。我陈伯之受齐明帝厚恩，自当誓死相报！”他怕大家不信，又拿出褚緭事先伪造的萧宝夤的书信，公之于众。这一招的确奏效，大伙儿一个个热血澎湃，发誓要反梁复齐，拥戴萧宝夤。于是陈伯之在府前筑起祭坛，歃血为盟，并且号令州内各郡，宣布“起兵反对建康的恶政”。
建康方面是早有准备的，梁武帝既然屡次三番地驳回陈伯之的要求，当然是做好了陈伯之窝里反的准备的。陈伯之这边祭坛上的血还没干，那边梁武帝已经发兵了。他命领兵将军王茂为征南将军、江州刺史，率军讨伐陈伯之。
与此同时，江州所属的豫章郡（今江西南昌）太守郑伯伦不愿跟从陈伯之造反，率本郡士兵拒守。陈伯之决定先摆平南面的豫章，以绝后顾之忧，打通粮道，然后在挥师北上。
以为稳操胜券的陈伯之亲自率部南下，却攻不下一个小小的豫章城，相持之际，后方王茂已经逼近了江州的老巢。陈伯之腹背受敌，无心恋战，只好带着儿子陈虎牙以及褚緭等亲信，抄小道渡过长江，逃奔北魏境内。
（乱世之中，像陈伯之这样毫无政治原则可言的将领十分常见，著名的就有吕布、刘牢之等等，可以说是个非常有意思的现象。这些人往往有个共同的特征，很会打仗，但却没有政治头脑，对局势的认识几乎为零，这类人若碰上和平治世，在军队里做个将军，还是足以胜任的；但若不幸撞上乱世，就很容易惹出许多不必要的麻烦了）
到了北魏，萧宝夤和陈伯之南征的积极性无庸质疑，超过了任何一位鲜卑贵族。萧宝夤是国恨家仇、刻骨铭心，陈伯之是甫投新主、立功心切。两人不谋而合，几乎在同一个时间递上了请求发兵的决心书。
宣武帝很快就答应了这一要求（所以说还是“外来的和尚好念经”），景明四年的四月，他先封萧宝夤为都督东扬州等三州诸军事、镇东将军、扬州刺史、齐王，给他一万兵马，驻扎在寿阳东城；又封陈伯之为都督淮南诸军事、平南将军、江州刺史，屯兵阳石（今安徽霍丘东南），先期驻于边境之上。
秋季淮水水位下降，是有利于北方军队南下的季节，北魏以任城王元澄与萧宝夤、陈伯之率领大军五万（北方冀、定、瀛、相、并、济六州征募的二万加上萧宝夤、陈伯之部的约三万人），进攻钟离；又以镇南将军元英都督征义阳诸军事，进攻义阳。
南朝的军队自从魏孝文帝死后，除了裴叔业主动投魏的那次，已经好几年没跟北魏打过象样的仗了，偏又碰上改朝换代，战斗力可真是提不起来。东路的钟离方向，元澄分兵外围，一路凯歌，拿下东关（今安徽含山西南）、颍川（今安徽寿县西）、大岘（今安徽含山东北）、焦城（今河南中牟西南）、淮陵（今江苏盱眙西）等八座城池，接着又攻打阜陵城（今安徽全椒东）。西路的元英则攻破司州刺史蔡道恭借助地势布下的三道防线（当时南梁的司州治所即在义阳），将义阳团团围住。
刚刚建立不久的南梁王朝，第一次在战场上陷入了困境。
