在战争中，爱因斯坦一直洋溢一种反德国的情绪，特别是听到波兰首都华沙的犹太人区暴动被残酷镇压的时候，这种情绪更是难以遏抑。根据美国大屠杀纪念馆的网站介绍，已控制波兰的纳粹军队将华沙的犹太人驱赶到一个特定的区域，1942年夏天，纳粹军队开始转移犹太区的三十万犹太人，其中二十五万准备被送到波兰特雷布林卡集中营。当得知送到集中营中的同胞被屠杀的命运之后，留在华沙犹太区的五万六千名犹太人不甘就此屈服在纳粹的屠刀下。1943年，留守的犹太人中的年轻人组成了一个秘密组织，号召那些下一批就要被送上火车到集中营送死的同胞们团结起来，反抗悲惨的命运。当德国士兵到犹太区命令登车时，犹太秘密组织成员利用秘密渠道获得的武器向德军发起攻击，迫使他们撤退。几个月后，德国军队纠集更多人再次回到犹太区，企图将剩下的所有犹太人都转移到集中营。犹太年轻人勇敢地反击，抵抗了将近一个月。但是最后寡不敌众，而且装备和给养都无法相比的抵抗者还是被德军镇压下去，犹太区也被付之一炬，大约有七千名犹太人当场被屠杀，其他人则被强迫做苦役或运送到集中营处死。听到华沙同胞们的英雄义举，爱因斯坦写了两段著名的声明，哀悼华沙起义的死难者。他发出著名的对“德国这个民族”在欧洲的大屠杀的谴责，正式将批评的矛头指向德国人这个群体的民族劣根性，因为正是大多数的德国人，即使他们从希特勒的书和演讲中知道他邪恶的长期意图，依然选举他为国家的领导者。
爱因斯坦持续关注军备竞赛的问题，并于1945年3月份应西拉德之邀又给罗斯福总统写了一封信。他在信中提及，大多数物理学家认为在从事秘密研究的科学家和制定政策的官员之间缺乏沟通，有些决策之前应该多听取物理学家的意见。爱因斯坦当时还不知道曼哈顿计划的实质意义，但可能被告知这个计划可能导致严重的后果。可惜罗斯福总统1945年4月12日去世，还没来得及看到这封信，也没来得及看到未来一个月的伟大胜利：德国军队放弃抵抗，希特勒于1945年4月30日自杀身亡，德军官员于5月7日正式宣布投降。盟军的攻势在经过一系列艰难的胜利之后终于在欧洲战场获得全面胜利，从此5月8日被宣布为欧洲胜利日。此时，在太平洋战场上，日本人还在负隅顽抗，作垂死挣扎。
1945年，就在与日本的战争将要结束时，美国政府发布了一个题为“史密斯报告”的文件，透露爱因斯坦在1939年给罗斯福总统的信让总统意识到德国可能会获得制造原子弹的能力，因此他其实间接地推动了美国从事原子能研究。该报告完成于1945年6月，概括了原子弹研究项目的进展，并透露说，科学家和军方正急切地希望测试原子弹的威力，报告中称“该武器已被开发出来了，具有比最恐怖的噩梦还可怕的、令人难以想象的破坏力”。在报告中也披露了相对积极一些的信息，即原子能也有可能用于诸多和平用途，为人类提供无穷尽的能源。大部分专家认为，即使没有爱因斯坦的写信建议，美国也会制造原子弹，因为在技术上，当时美国和英国都已拥有制造原子弹的技术，不过由于爱因斯坦的参与，大大加快了原子弹的诞生。
1945年7月16日，洛斯阿拉莫斯国家实验室的科学家们在新墨西哥州中部阿拉莫戈多的怀特桑德导弹试验场进行原子弹的试爆实验。结果表明，这次试爆非常成功，参与此次计划的科学家们都兴高采烈地欢庆成功。但他们中的许多人在成功的喜悦之后不久开始反思他们努力获得的成就，并考虑该发明可能给世界和平可能带来什么影响，更多的有识之士对原子能武器的使用和发展保持警惕态度。西拉德从媒体报道中得知原子弹计划已获得成功，敏锐的科学家已开始意识到这个破坏力惊人的武器可能给世界带来毁灭。这个连锁反应发现的先驱，怀着满心的罪恶感，很快发表了一份请愿书，请求美国政府基于道德不要用原子弹对付日本人，但事态发展表明他的请愿没有发挥作用。
现在，通过照片、电影和电视等媒介，大部分现代人可能都看到过在进行原子弹试验的沙漠上升起核爆蘑菇云的情景。但是，就在试验成功的三周后，所看到的就不是试验的情景了。1945年8月6日，一架美国B－2轰炸机从南太平洋小岛蒂尼安岛出发，装载着一颗原子弹，机组人员一行十二人乘着夜色飞行一千五百英里到日本广岛上空，抛下了以铀-235作核原料、绰号为“小男孩”的原子弹。三天以后，另外一架B-2轰炸机从同一个地方出发，在另一个日本城市长崎上空扔下绰号为“胖子”的钚-239制成的原子弹。原子弹爆炸产生的巨大冲击波、强烈光辐射和核辐射在广岛瞬间夺去了七万人的生命，在长崎则杀死了四万人左右，此后还陆续死亡了数千人。在美苏两国联合打击及原子弹巨大威力的威慑下，日本人于1945年8月14日投降，第二次世界大战至此以盟军的胜利告终。在二战中，全世界大约五千万人死于战火，包括士兵、平民和集中营中的死者。
事后，特别是见证了原子弹所带来的灾难性后果之后，爱因斯坦的良心一直被这个自己1905年发现所产生的杀人武器所困扰。如果他知道德国科学家不能制造出原子弹，他绝对不会在那封给罗斯福总统的信中签上自己的名字。实际情况是，虽然德国科学家意识到了利用原子连锁反应的可能性，但是由于没有制造原子弹所需物资，他们一直无法开始研制原子炸弹。即使他们原料充足也未必能造出原子弹，因为在欧洲战乱的条件下不能提供制造和测试原子弹的环境。
为了在世界上废除核武器的神圣使命，爱因斯坦1945年11月在一篇杂志文章中号召建立一个世界政府，其使命在于控制原子弹的使用和其他所有军事活动。在他的构想里，这个世界政府将由美国、苏联和英国三个军事大国组成，有权管理世界上所有军事事务，并能调解各国之间的矛盾和冲突。他写道，即使一个专制的世界政府也比邪恶的核战争肆虐世界要来的好一些。他认为，任何形式的国家政府都或多或少有着与生俱来的邪恶，但是战争无论如何都比这些邪恶要糟糕的多。不过，也有人反对他的看法，比如苏联科学院便谴责爱因斯坦倡导建立这样的世界体系。
战争的结束时，爱因斯坦正好宣布正式从高级研究所退休。退休以后，除了继续在高级研究所专门为他保留的办公室进行统一场论的思考外，他一如既往从事和平主义活动，主要包括倡导成立一个世界政府，撰写文章讨论战争与和平以及裁军的问题。他写道：“原子能被释放出来并没有导致新的问题，只是使得解决现存问题变得更加紧迫。”他认为，现存问题与以前相比并没有任何改观。很早以前，1905年的诺贝尔文学奖得主、法国哲学家贝塔·冯·萨特就曾说过，改进战争的规则就像是将某人置于油锅中炸时，规定油烧开时候的温度。战争是不存在所谓的“改进”的。爱因斯坦主张，进行基础性研究的科学家有责任不再把研究成果与军方武器研究合作共享，以免未来出现更可怕的武器。他警告人们说：“我不知道第三次世界大战将会怎么进行战斗，但我可以告诉你第四次世界大战时人们将用什么进行战斗——石头！”
