李立三在上海主持召开了特委会后，立即与罗亦农等赶回汉口，又参加了中共五大会议的筹备工作。
蒋介石在上海发动反革命政变，大肆屠杀共产党人和革命群众之后，紧接着又指使国民党右派在广州、南京、无锡等地发动了同样的反革命政变。革命前途危在旦夕。为了挽救革命，4月27日上午，中共第五次代表大会在武昌都府堤20号武昌第一小学礼堂开幕，共有80多名代表参加会议。陈独秀、蔡和森、李立三、李维汉、罗章龙、瞿秋白、顾顺章、张金保、张国焘、谭平山当选为主席团的成员，李立三同时是职工运动委员会的主持人。
出席开幕式的还有共产国际代表以及英、法、美、苏等国共产党代表、武汉各群众团体的代表、国民党中央委员会代表团等来宾。开幕式由陈独秀主持，他首先致开幕词，接着共产国际代表印度人罗易向大会祝词，随后是国民党中央委员会代表、各国共产党代表及我国各团体代表向大会致贺词。
在当时复杂的形势下，这次会议是半公开的，会场警卫由国民革命军司令部教导营担任，这个营的干部战士大多倾向革命，其中有许多共产党员。当天，营长韩浚率领一百多名战士警惕地守在会场周围，保证了大会的顺利进行。
因为当时汉口较武昌更为安全，同时大多数代表居住在汉口，过江开会不太方便。因此28日大会休会一天，迁往汉口济生三马路黄陂会馆，29日以后的会议均在此进行。
29日，陈独秀作《政治和组织工作报告》。报告没有回答当时最迫切需要解决的一系列重大问题，代表们感到非常失望。
4月30日至5月3日在讨论时，20多人先后发言，许多代表提出了意见。李立三多次发言，总结了职工运动的经验，从总体上批评了陈独秀的右倾错误，也批评了在领导上海起义中的机会主义策略。但是，“因为罗易和鲍罗廷对陈独秀采取了调和主义立场，这一斗争没有很好地进行下去。”
5月4日至5日，由共产国际代表罗易作报告。他先介绍了国际形势和共产国际执委会第七次扩大会关于中国问题决议案，后来总结了大会讨论陈独秀报告的情况。
5月7日至8日，大会讨论了组织、修改党章、农民土地、职工运动等问题。9日，是大会的最后一天。会议通过了《中国共产党接受共产国际第七次扩大会议关于中国问题决议案的决议》等5个决议案和《中国共产党第五次全国代表大会宣言》，选举产生了第五届中央委员、候补中央委员，建立了党中央的监察委员会。历时13天的中共第五次代表大会宣告闭幕。
在5月9日投票选举中央委员会领导机构时，李立三被选为中央委员，在五届一中全会上他又与陈独秀、张国焘、李维汉、蔡和森、瞿秋白、谭平山7人被选为中央政治局委员；苏兆征、张太雷、陈延年、周恩来4人为政治局候补委员；陈独秀、张国焘、蔡和森3人为常委，陈独秀继续被选为总书记。
这次大会是在中国革命遭受挫折之时召开的。大会接受了共产国际的决议，批评了陈独秀的右倾投降主义错误，但是这次大会存在着严重错误。它没有提出争夺领导权的任何切合实际情况的措施，对国民党的阶级属性作了错误的分析，对汪精卫充满了幻想。会议没有讨论建立共产党自己直接领导的军队的问题。对于农民迫切需要解决的土地问题，虽然强调了解决问题的意义，但制定的具体措施都是行不通的。大会继续选举陈独秀为党的总书记，使他得以继续推行右倾投降主义路线，致革命一步步走向失败。
