最早酝酿在中国建立共产党的是陈独秀和李大钊。1920年2月，为躲避反动军阀政府的迫害，陈独秀从北京秘密迁移到上海。在护送陈独秀离京途中，李大钊和他商讨了在中国建立共产党组织的问题。

    1920年3月，李大钊在北京大学组织成立马克思学说研究会。这既是中国最早的学习和研究马克思主义的团体，也为建党作了重要准备。4月，俄共(布)代表维经斯基等来华。他们先后在北京、上海会见李大钊、陈独秀，讨论建立共产党的问题。这对于中国共产党的创建起到一定的促进作用。

    中国共产党早期组织，是在中国工人阶级最密集的中心城市上海首先建立的。1920年5月，陈独秀发起组织马克思主义研究会，探讨社会主义学说和中国社会改造问题。8月，共产党早期组织在上海《新青年》编辑部成立，陈独秀任书记。10月，李大钊等在北京成立共产党早期组织，当时称“共产党小组”。同年底决定成立共产党北京支部，李大钊为书记。

    在上海及北京党组织的联络推动下，各地党的早期组织纷纷建立起来。1920年秋至1921年春，董必武、陈潭秋、包惠僧等在武汉，毛泽东、何叔衡等在长沙，王尽美、邓恩铭等在济南，谭平山、谭植棠等在广州，成立了共产党早期组织。在日本、法国，成立了由留学生和华侨中先进分子组成的共产党早期组织。

    在建党的思想理论准备中，《共产党宣言》起了十分重要的作用。1920年2月，陈望道为翻译《共产党宣言》，秘密回到浙江义乌家中。他在潜心翻译时，把粽子蘸着墨汁吃掉却浑然不觉，还说：“够甜，够甜的了！”“ 真理的味道非常甜”彰显了中国的共产主义者对马克思主义救国真理的渴求，对共产主义理想的坚定信念。1920年8月，《共产党宣言》中文全译本出版，成为马克思主义在中国传播史上的一件大事。