李大钊将陈独秀送到天津，看着他上了南下上海的外轮，这才放心地返回北京。2月19日，陈独秀抵达上海，住进法租界环龙路老渔阳里2号。这是李大钊在北京联络了在沪的许德珩、张国焘，由他们帮陈独秀找到的住所。安顿好一切，陈独秀让高君曼携子女南下，一家得以团圆。
到沪后，好友汪孟邹、潘赞化等人纷纷登门拜访，谈及陈延年、陈乔年赴法勤工俭学之事，大家不禁唏嘘。早在年前的一个夜晚，潘赞化路遇陈延年，见他还穿着秋天的薄呢袍，冻得瑟瑟发抖，便叫他去自己家，给他找件棉衣，却被陈延年拒绝。
赴法前兄弟俩回了一趟安庆，祖母和母亲见两人衣衫破旧面色憔悴，十分伤感，要给两人添置新衣，两人考虑到家境不好，也拒绝了。而赴法必须的400元旅费，是吴稚晖给上海留法勤工俭学执事沈仲俊写信，终于为陈延年等人“觅得船位西行”。
对此，陈独秀不以为然，他认为年轻人就是要多吃苦，经受锻炼，倒是高君曼听得一阵阵心酸，被陈独秀视为“妇人之仁”。
在上海安定下来后，陈独秀即开始筹划建党事宜。当年4月，由李大钊介绍的一位俄国客人维经斯基走进陈独秀的宅邸，随行的有翻译人员俄籍华人杨明斋。杨明斋向陈独秀介绍，维经斯基任职于设在伊尔库茨克的第三国际远东局，此行目的便是物色中国共产主义运动的领袖人物，打算在上海建立共产国际东亚书记处，以便在华开展共产主义工作。
陈独秀听了杨明斋的介绍后异常兴奋，当即向维经斯基表示，他早就同李大钊商议在中国建立布尔什维克式党的事宜，若能得到共产国际的帮助，建党一事会顺利许多。
维经斯基经过一番考察，向共产国际汇报工作时首先介绍了陈独秀的情况，称他是“当地的第一位享有很高声望和很大影响的教授”，并特意提到“杂志《新青年》（是月刊）由北京大学教授陈独秀博士出版”。然而他并不知道，陈独秀并没有获得博士学位。
1920年5月，陈独秀在共产国际的帮助下，与李达、李汉俊等人在上海组织了一个马克思主义研究会，作为建党准备机构。8月，上海的共产党早期组织成立，取名“中国共产党”。这是中国第一个共产党的组织。接下来，陈独秀、李大钊等人的四处活动，北京、武汉、济南、广州和日本东京等地，相继成立共产党小组或支部。
在陈独秀筹划建党时，《新青年》已经迁至上海，此时成为共产党的机关刊物，开始对马克思主义进行系统宣传。而《每周评论》已于1918年8月末被北洋政府查封停刊。1920年8月，陈独秀又创办了通俗周报《劳动界》，以通俗语言向工人宣传马克思主义。
在马克思主义与中国工人运动日益结合的基础上，建立中国共产党的条件已经成熟。在共产国际代表马林的支持下，1921年7月23日，中国共产党第一次全国代表大会于上海法租界望志路106号（现兴业路26号）举行。
与会代表共13人，分别是上海小组李达、李汉俊，武汉小组董必武、陈潭秋，长沙小组毛泽东、何叔衡，济南小组王尽美、邓恩铭，北京小组张国焘、刘仁静，广州小组陈公博，旅日小组周佛海，以及陈独秀委派的代表包惠僧。
为成立中国共产党做出过卓越贡献的“南陈北李”，因工作关系均未能到会。陈独秀时任广东教育委员会委员长一时不能脱身，李大钊则因为“正值北大学年终结期间，校务繁杂不能抽身前往”。而在代表们心目中，他们仍是党的主要创始人和领袖。
大会共召开了七次会议，通过了《中国共产党党纲》、《关于当前实际工作的决议》，并选举了党的领导机构，陈独秀被选为中央局书记。中国共产党就此诞生。
