随着马克思主义的广泛传播，新民学会会员中，在国内以毛泽东为代表，在国外以蔡和森为代表，涌现了一批马克思主义者。由于政治思想觉悟的迅速提高，他们从俄国十月革命经验中，已经认识到一个马克思主义的政党在无产阶级的革命事业中所起的重要作用，很快地产生了建立共产党的要求，并就建党问题展开了讨论。
1920年7月，蔡和森在蒙达尼会议上，在实现“改造中国与世界”目的的方法上与萧子升等产生分歧。后于1920年8月13日和9月16日，连续两次写长信给在长沙的毛泽东，阐述他主张建立共产党，走俄国人的道路的主张。
在蔡和森提出建党问题的同时，毛泽东也从研究俄国十月革命的经验中，意识到建立一个列宁式的布尔什维克党的重要性。他在1920年9月5日发表在湖南《大公报》上的一篇文章中说，俄国革命所以能成功，在于“列宁之以百万党员，建平民革命的空前大业，扫荡反革命党，洗刷上中阶级，有主义(布尔失委克斯姆)，有时机(俄国战败)，有预备，有真正可靠的党众，一呼而起，下令于流水之原，不崇朝而占全国人数十分之八九的劳农阶级，如斯响应。俄国革命的成功，全在这些处所。”毛泽东接到蔡和森的信后，十分高兴，对信中提出的用俄式的方法，组织共产党，实行无产阶级专政的主张“表示深切的赞同。”他在1921年1月21日的复信中说：你的信“见地极当，我没有一个字不赞成。”并说：“唯物史观是吾党哲学的根据，这是事实，不像唯理观之不能证实而容易被人动摇”。信中向蔡和森传递了国内有关建党活动的情况，“党一层，陈仲甫等已在进行组织。出版物一层，上海出的《共产党》，你处谅可得到。颇不愧‘旗帜鲜明’四字。”
1920年8月，陈独秀、李达等在上海成立共产主义小组。这是中国第一个共产主义小组，它成为创建全国统一的无产阶级政党的活动中心。据李达回忆，上海共产主义小组成立后，由陈独秀、李汉俊找关系，“在湖南由毛泽东负责”。受陈独秀的委托，毛泽东和何叔衡等经过酝酿筹备，于10月、11月间，创建了长沙共产主义小组。当时成员还有彭璜、贺民范等，共6人。
长沙共产主义小组成立后，十分注重马克思主义的宣传和开展工人运动。毛泽东、何叔衡等除了运用文化书社和俄罗斯研究会扩大宣传新思想、宣传马克思主义外，已开始注意将马克思主义灌输到工人群众中去。1920年秋，毛泽东利用担任第一师范附小主事的便利条件，开办了一所工人夜校，同时还办了一个工农子弟补习班，招收18岁以上的失学青年。夜校除学习文化外，则还重点向工人群众传播马克思主义的基本常识，实行启蒙教育。1920年11月7日，毛泽东等以新民学会会员为骨干，组织长沙工人、学生举行游行，庆祝俄国十月革命三周年。
1920年11月21日，湖南劳工会成立。它的成立得到毛泽东、何叔衡、彭璜等的支持和帮助。1921年三四月间，该会领导了湖南第一纱厂收归国有的运动，5月1日，劳工会的工人和一部分学生在湖南一师举行劳动节晚会。大会进行讲演、游艺等活动，在纪念面包上印有“劳工神圣”、“不作工者不得食”等字样。劳工会的领导人黄爱、庞人铨曾受无政府主义的影响，后来在毛泽东的影响下，脱离无政府主义的影响，接受马克思主义，并参加社会主义青年团。
建立和发展社会主义青年团，是长沙共产主义小组成立以后进行的一项重要工作，毛泽东为此花费很大精力，做了大量的工作。1920年8月，上海第一个成立了社会主义青年团。10月，毛泽东接到从上海等地寄来的社会主义青年团章程后，立即开始筹建长沙社会主义青年团，他积极地在湖南第一师范、商业专科学校、第一中学学校的先进学生中，寻找团员的对象。当时湖南一师附属学校的进步学生张文亮，在日记中记载：
11月17日。接泽东一信，送来青年团章程十份，宗旨在研究并实行社会改造。约我星期日上午去见他，并托我代觅同志。
11月21日。会见毛(在通俗馆)，云不日将赴醴陵考察教育，并嘱青年团此时宜注重找真同志；只宜从缓，不可急进。
12月2日。泽东来此。他说，青年团等仲甫来再开成立会。可分两步进行：一、研究；二、实行。并嘱咐多找同志。
12月15日。接泽东复信……(三)师范素无校风，你应努力结些同志做中坚分子，造成一种很好的校风。(四)青年团你可努力在校制造团员，尽可能于本学期开一次会。
12月16日。泽东来此。青年团将于下周开成立会。
12月17日。泽东送来《共产党》九本。
在毛泽东的努力下，在“多找真同志”这样一个积极而又慎重的方针下，长沙建团工作健康顺利地发展。一些新民学会会员也参加了青年团。从10月到12月，3个月内就在湖南发展20来名团员，建立了团的基层组织。1921年上半年，长沙的青年团员已发展到近40人，是全国团员较多的地区之一。
上海率先成立共产主义小组以后，除长沙外，北京、武汉、广州、济南等地也建立了共产主义小组，在法国和日本的中国留学生和侨民中也建立了这样的小组。
1921年6月上旬，共产国际代表威经斯基等到达上海，会见李达等，建议及早召开全国代表大会，宣告中国共产党成立。上海共产主义小组担负发起建立中国共产党的任务。随即，他们致函各地共产主义小组，各派代表2人于7月间到上海开会。
毛泽东接到上海发来的开会通知后，与何叔衡作为长沙共产主义小组的代表，于6月29日离开长沙前往上海，参加中国共产党第一次全国代表大会。7月初，到达上海。
7月23日至8月初，中国共产党第一次全国代表大会举行。毛泽东、何叔衡、董必武、陈潭秋、王尽美、邓恩铭、李达、李汉俊、张国焘、刘仁静、周佛海、陈公博12名代表出席，他们代表了全国50多名党员。共产国际远东局书记处代表尼克尔斯基出席了会议，陈独秀指派的代表包惠僧也参加了大会。会议由张国焘主持，毛泽东和周佛海任记录。开会地址在上海望志路106号。因会议中间突然遭到暗探侦察，出于安全考虑，随后转移到浙江嘉兴南湖，在游船上继续开会。
大会经过充分讨论，通过中国共产党的第一个党纲，确定党的名称为中国共产党。规定党奋斗目标是：以无产阶级革命军队推翻资产阶级，由劳动阶级重建国家，直到社会的阶级区分消除为止；承认无产阶级专政，直到消灭社会的阶级区分；消灭资本家私有制，没收机器、土地、厂房和半成品等生产资料，归社会公有。大会还通过关于当前实际工作的决议，确定党成立后的中心任务是组织工会，领导工人运动。大会选举陈独秀、张国焘、李达组成中央局，陈独秀为中央局书记。
一大闭幕后，1921年8月，毛泽东回到长沙，积极进行建立湖南地方党组织的工作。他和何叔衡、彭平之、陈子博、易礼容等人经常在一起讨论组织湖南共产党的问题。10月10日，中国共产党湖南支部建立，毛泽东任书记，委员有何叔衡、易礼容等，党员有彭璜、郭亮、彭平之、陈子博等10人。这是中国共产党第一个省级组织。毛泽东采取积极、慎重的建党方针，一方面从社会主义青年团内个别地吸收先进青年团员入党，同时注意发展工人运动中的先进分子入党。毛泽东和中共湖南支部成员多次到长沙湖南第一师范、省立一中、长郡中学、商业专科学校进行工作，发展党员，建立支部，毛泽东还亲自赴安源、衡阳等地发展党员，建立组织。毛泽东和中共湖南支部陆续在长沙、安源、衡阳建立了三个党支部，有党员30余人。按照中共中央的规定，1922年5月底，中共湘区执行委员会正式成立，毛泽东任书记，委员有何叔衡、易礼容、李立三等。湘区委机关设在长沙清水塘22号。1923年4月，毛泽东奉调党中央工作后，李维汉接任湘区委书记。
