据此，1920年8月，上海共产党早期组织在马克思主义研究会活动取得进展的基础上，在共产国际代表维经斯基的帮助下，于法租界老渔阳里2号《新青年》编辑部成立，陈独秀为书记。在党的一大召开之前，先后参加上海的共产党早期组织的有：陈独秀、俞秀松、李汉俊、陈公培、陈望道、沈玄庐、杨明斋、施存统、李达、邵力子、沈雁冰等人。
1920年12月，陈独秀由上海赴广州后，李汉俊和李达先后代理过书记的职务。
关于党的名称叫什么，是叫社会党还是共产党，陈独秀自己一时拿不定主意，就写信给张申府，并要他告诉李大钊。张申府和李大钊一起研究过后，李大钊的意思是叫共产党。陈独秀同意了李大钊的意见，就用“中国共产党”这一名称，不再使用“社会党”的提法了。
上海党组织于1920年11月创办《共产党》月刊和制定《中国共产党宣言》，明确了“共产党”的名称，陈独秀在《政治改造与政党改造》中，也指出“只有以共产党代替政党，才有政治改造的希望”，并说“新的共产党究竟如何，全靠自己做出证据来才能使人相信啊！”
上海党组织成立后，维经斯基多次参加会议，与上海党组织一起讨论党的工作和工人运动问题。为了帮助我国劳动者了解俄式革命，启发他们奋起革命，他还曾用吴廷康署名，为《劳动界》周刊撰文《中国劳动界与劳农议会的俄国》，刊登在《劳动界》第13册上。维经斯基于1921年初春回国。
上海共产党早期组织成立后，积极开展各项工作，宣传马克思列宁主义，组织工人运动和创建社会主义青年团。此外，上海共产党早期组织还通过写信联系、派人指导或具体组织等方式，积极推动各地共产党早期组织的建立，实际上起着中国共产党发起组的作用。1921年7月，中国共产党第一次全国代表大会在上海召开。此时，对各地党组织建党工作起了推动作用的上海早期共产党组织，完成了历史赋予的光荣使命。
