问题8 你是否是一个伪君子(1)

  问题8. “你是否是一个伪君子?!”

  我收到的大部分反应是比较礼貌的。下面的一些非常嘲讽的评论以一种比其他方式更强烈的、更情绪化的方式深深地震撼了我,它带给我的痛苦影响了我回答的篇幅。我希望我能够公正地回答。

  来信

  亲爱的德·加里斯教授:

  最近,一个网络新闻读者偶然发现雨果·德·加里斯的描述。德·加里斯,一个人工智能专家,在CNN上面预示一场即将到来的战争,在这场战争中,他所努力发明的机器人大脑,称作“人工智能”将最终摧毁人类。德·加里斯由此认为,他的责任正是现在,而不是迟些时候,去敲响警钟,来告诉大家即将到来的机器人控制的死亡时代,因为他正是推动这个时代到来的人。德·加里斯在瑞士达沃斯的世界经济论坛上传递了这个声明。

  德·加里斯同时正在寻求好莱坞帮忙撰写一个关于即将到来的“人工智能”战争的电影剧本,他想在人类被摧毁之前完成。

  回答

  我经常被询问这样的问题。一般的态度好像是:“既然你对未来人类被人工智能机器灭绝的可能性如此关心,那为什么还要从事它们早期的研究呢?”

  嗯,因为我最终还是一个宇宙主义者。我想看到人类制造出人工智能机器。当然,我不是那种厌恶人类的、疯狂的宇宙主义者—— 可以镇定地说:“我会为了一个人工智能机器而牺牲几十亿人类的生命。”也许在将来会有这样的人,因为人的性格多种多样。也许宇宙主义者当中确实包括这样的极端分子,但是我肯定不是其中的一员。

  在我死之前的30~40年内,我希望我不会看到人工智能战争的“酝酿”。当然,如果这样的大灾难可以避免我将更加高兴。但是现在,如果我和其他的大脑制造者们不去敲响警钟,还有什么其他的选择呢?难道只是盲目地推动人工智能的制造直到一切都变得太晚?大脑制造者们在这个领域是专家,因此,他们可以首先看到技术的发展趋势,并且,如果他们有政治头脑,他们也应该可以看到其政治后果,特别是如果他们具有西拉特(译者注:Szilard Leo西拉特·利奥(1898—1964)匈牙利裔美国物理学家和生物学家。作为曼哈顿工程计划的一员,他帮助研制出第一枚原子弹。西特拉后来反对研制与使用所有核武器并致力于研究分子生物学)的技术和政治才能。

  专家们可以比普通大众早几十年看到即将发生的情形。由于技术发展的速度,制造出足够聪明且可以使人类感到恐惧的人工智能机器将可能不需要很多年,也许只要十几年的时间。我猜测,它们可能在50年的时间内达到人类的智慧水平,谁知道呢?

  我认为,世界上的那些大脑制造者们引发关于人工智能问题的讨论只是出于道德上的责任,即在第一台真正智慧的人工智能机器投入市场前,给予人类足够的时间来彻底讨论这个问题。

  但是,你可能会说,只要停止人工智能研究,不就行了吗?这难道不是更符合逻辑吗?

  这取决于你是宇宙主义的还是地球主义的研究者。个人来说,我是一个宇宙主义者。制造出拥有1040个组成部分或者更多部分的人工智能机器,我是指真正的超级机器,拥有神一样的智慧,探索宇宙和其广漠空间的秘密,永远不死,思考着我们难以想象的问题,对于我来说,有一种催眠般的吸引力。

  它是我的终生梦想,对于我来说是一种宗教,并且非常强烈。我可以想象,在未来的某个时刻,有几百万人会和我拥有同样的梦想,我希望这件事情发生的原因是我真正地希望人类制造这样的事物,正如我在第4章关于宇宙主义的解释一样。

  但是,我不是一个如此片面的宇宙主义者以至于我认为大众应该被蒙在鼓里。我有足够的地球主义的同情以至于我不想看到人类冒着在人工智能机器手中被灭绝的危险。因此,大众应有知情权,应该警示大众,以便他们可以选择自己的方式前进。

读书导航