1920年11月22日，张申府经上海去法国里昂大学讲学，之前到渔阳里2号和陈独秀话别，谈到黄凌霜等人中途退出北京党组织时，陈独秀说：“不要紧的。上海这边，无政府主义者也退出了。”陈独秀还委托张申府到巴黎后多了解情况，多联系在法国勤工俭学的学生们，看看能不能在巴黎建立起党组织。后来，张申府、陈公培、周恩来、刘清扬等人在巴黎建立了旅法共产党早期组织，张申府还写信向陈独秀汇报了组织的详细情况。
在上海党组织的筹划和帮助下，各地党组织纷纷成立，并各自开展工作，这些活动使得正式建立中国共产党的条件日趋成熟。
五四运动后，中国各地先进的青年接受了爱国革命运动洗礼，更加向往自由和光明，追寻救国救民之路。这一时期，《新青年》和上海《星期评论》以及《觉悟》副刊，引导着革命的潮流，吸引了大批冲破家庭和学校束缚的青年。为了更好地帮助这些青年进步，陈独秀、李汉俊等决定建立社会主义青年团。
1920年8月22日，在渔阳里6号，上海率先成立了第一个青年团组织，其原则是准备社会革命。陈独秀派上海党组织最年轻的成员俞秀松，担任社会主义青年团的书记。同时，上海党组织的成员也都参加青年团工作。
1920年秋，为了培养革命干部和输送革命青年去苏俄学习，上海早期共产党组织创办了外国语学社。学社是公开的，大门上挂着外国语学社的牌子，还公开登了广告招生。杨明斋和维经斯基的夫人库兹涅佐娃教授俄语，李达教日文，李震瀛、沈雁冰教英文，李汉俊教法文。
新渔阳里6号就是外国语学社的公开办公教学场所。这所房子有两个名义，一个是上海社会主义青年团机关，当时俞秀松是书记，他也是一名早期党员，还有一个名义就是杨明斋办的华俄通讯社，专门发表介绍俄国十月革命的稿件，主要在《民国日报》副刊《觉悟》上刊登。
外国语学社的学生大多数是通过陈独秀和上海党组织其他成员介绍入学的。任弼时、萧劲光等6位青年，是毛泽东和湖南俄罗斯研究会向上海党组织介绍来的；汪寿华、华林等浙江青年是陈望道、俞秀松介绍来的；吴葆萼、蒋光慈等安徽青年是陈独秀介绍来的。学社火爆的时候有五六十个学生，学生们主要学习俄文，因为很多人要去俄国深造。除了外语学习，学生们还要学习马克思列宁主义的基本知识，他们的课外实践活动就是参加上海的一些革命活动。
