秦二世元年秋天，陈胜、吴广等在大泽乡起兵反秦，成为正式以武力反抗暴秦的第一支队伍。
陈胜、吴广队伍的力量并不大，只是一群乌合之众。因为，楚地各部族一向对秦朝反感最大，所以趁机杀死各郡县的秦朝官吏，到处响应起义。一时间，大泽乡周围的各郡县，皆成了起义军统领管辖的势力范围。
一时之间，楚地豪杰纷纷群起响应，拥有千人以上的队伍，不可胜数。其中以起兵于会稽的项梁、项羽叔侄，以及沛县父老拥戴的刘邦最为有名。
这一年，刘邦仍匿身于芒砀山中避难。由于天下局势动荡，他为了增强自己的实力，也招来一些人留着日后为己所用。在此期间，也时常有手下下山，把刘邦斩白蛇，是赤帝之子的故事讲给老百姓听。大家都说刘邦将来一定能当上皇帝，老百姓们都将信将疑。很多年轻人因为在家乡吃不上饭，听说刘邦在招兵买马，还有饭吃，就跟着上山去了。大多数的老百姓都被官府搜刮得粒米殆尽，实在拿不出吃的来帮助义军。刘邦他们就学官府筹粮巧取豪夺的办法，到一些富家大户那里去 “借粮 ”，说是借，实际上就是强行去抢，永远没有还的时候。他们就这样扎根在芒砀山之中，昼出夜归，没多久，就聚集了几百人，筹集的粮食和钱财也足够他们以备不时之需。渐渐地刘邦积蓄了足够的力量，就带领部队返回沛县，被立为沛公。
看着转眼间就拉起了的队伍，刘邦心中非常高兴。他心想：原来起义就是这么回事，只要瞅准了机会，敢想敢干，就什么都有可能做到。前一阵，还担心自己被官府抓到砍头，一咬牙就豁出去向前迈了这一步，再回头看看，就是另一番天地了。今后就按这个路子继续招兵买马，看看自己到底能干到什么程度。
刘邦的部队在芒砀山上休整了一些日子，刘邦就把他们分成三个组，让史劲、许横、郝松各自带领一个组，自己身边留了几十个人随时听候调遣。他叫懂些武术的人教手下们练武，没有兵器就暂时让大家砍些木棍来代替，安装个铁枪头就是长枪。因此，刘邦的部队一直以长枪见长。
刘邦自己没带过兵，有这么一支队伍在手里，他自己就以为很是了不起了。加之他建功立业之心很迫切，按捺不住就要下山去闯荡一番。士兵们整天吃饱了没事干，浑身憋得特别难受，巴不得找个地方一试身手。兵将一拍即合，迅速擦出了火花。
芒砀山下有一座小城叫永城，城池很坚固，守卫的士兵也非常多。刘邦一伙人将起义的首个目标就选定为攻打永城。刘邦一伙人最近这段时间在山上聚集的消息，也传到了永城太守的耳朵里，太守心想：一伙毛贼也成不了什么气候，等我腾出人手来，派几个官兵就一举把他们驱散了。
