海牙会议以后，第一国际迁到了美国。到1876年，第一国际实际上已经停止了活动，并宣告解散。它完成了自己的历史使命。在第一国际短短十余年的历史中，马克思主义得到了极大的推广和传播，团结教育了一大批工人，并培养了一批工人运动领袖。可以说，第一国际的活动，是马克思主义传播发展过程中的一次里程碑事件。
在第一国际宣告解散大约十年以后，国际工人运动又出现了一个新的局面。1886年，美国芝加哥工人发动了“五一”大罢工，最终发展成为美国全国性的大罢工，这也是今天“五一”国际劳动节的由来。这次声势浩大的工人运动对世界产生了重大影响。法国、俄国、德国等国工人也纷纷举行罢工，争取自己的合法权益。另一方面，19世纪80年代以来，德国社会民主党、法国工人党、英国费边社等工人政党和社会主义团体纷纷成立。在这种情况下，成立新的国际工人协会，领导和团结国际工人运动就成为迫切的要求。
在马克思于1883年3月14日去世以后，恩格斯继承了马克思的事业。1889年7月14日，在法国大革命100周年纪念日之际，巴黎隆重召开了国际工人代表大会，除了恩格斯以外，还有德国的李卜克内西、倍倍尔、伯恩斯坦，法国的盖德、拉法格，俄国的普列汉诺夫，比利时的王德威尔德等各国工人领袖也参加了会议。此次会议的召开标志着第二国际正式成立。
虽然第一国际和第二国际在名称上像一对孪生兄弟，但它们的组织方式却有着很大的区别。与第一国际不同，第二国际并没有一个类似总委员会的领导机构，组织形式比较分散，参加第二国际的各国工人组织都可以自行其是，而第二国际的国际局仅仅是对各国的工人运动和工人组织给予指导。这就方便了各国工人组织依据本国的特点制定自己的方针政策。
当然，第二国际从一开始就和机会主义思潮共生。在召开第二国际成立大会的当天，以法国“可能派”为代表的一批主张和平斗争的工人组织也在巴黎召开会议，与第二国际分庭抗礼。
而第二国际成立以后，又有许多人提出走合法斗争路线，希望能通过议会选举、和平示威等方式获得社会主义的胜利，而放弃社会主义革命。恩格斯针锋相对地指出了这些思潮的错误性。在恩格斯于1895年8月5日去世以后，第二国际中以伯恩斯坦为代表的一批修正主义者趁机跳到了前台，大肆活动。
“修正主义”这个词语正是伯恩斯坦本人的创造，他认为马克思主义已经“过时”了，必须进行“修正”。如何“修正”呢？他提出了一系列的观点，认为主要通过议会选举，在议会占领多数席位，就可以获得社会主义的胜利，就能使资本主义一点点过渡到社会主义。同时，他还反对马克思的历史唯物主义和辩证唯物主义。“修正主义”思潮的出现，使第二国际发生了分裂，李卜克内西、倍倍尔等左派坚决拥护马克思、恩格斯的思想，而伯恩斯坦等社会民主党右派则背离马克思主义，也吸引了一批工人追随者。另外，还有考茨基等中间派分子。
1899年，法国社会党人米勒兰偷偷拜访了即将组阁的皮埃尔·瓦尔德克卢梭，在内阁中谋得了工商业部长的职位。一个社会主义者和镇压巴黎公社的刽子手加里费将军（时任军事部长）坐到了一起，顿时在法国社会主义者中引起了大争论。米勒兰坚持认为自己入阁是实现社会主义的“第一步”，盖德等人则对其行为进行激烈的批评。最后，争论闹到了第二国际，伯恩斯坦等右派分子也支持米勒兰。以考茨基为代表的中间派则出来打圆场，提出了一个“橡皮决议案”，建议第二国际对此事不发表意见。
但是，第二国际的沉默并没能挽回局势。米勒兰入阁以后根本没对社会主义有任何裨益，第二国际也完全分裂。到1914年，第二国际中的德国社会民主党投票支持德国发动世界大战，从根本上背叛了社会主义的原则，第二国际名存实亡。
第一国际、第二国际是马克思主义理论指导国际共产主义运动的初“体验”，它们把马克思主义推向了世界政治舞台，使越来越多国家的工人阶级开始接受科学理论的指导，因而注定在国际共产主义运动史上占有极为重要的地位。
