智能简史 导言(4)

  那么大家会怎样呢?当然,他们会丢弃老式机器人去买新型的,或者把他们的老式机器人进行人工神经元电路升级。之后,这样的过程将反复出现,就像20世纪80年代至90年代人们购买个人电脑那样。

  然而,有些爱思考的购买者会发现一代一代的家用机器和机器人变得越来越聪明,并且机器人和人类智商的差异越来越小。当机器人真的变得非常聪明后,几百万的机器人拥有者会开始问自己一些有趣的问题。诸如:

  “这些人工大脑机器人会变得多聪明呢?”

  “它们会变得和人类一样聪明吗?”

  “如果可能,那是一件好事吗?”

  “这些机器人会变得足够聪明而成为人类的威胁吗?”

  “这些机器人会比人类聪明吗?”

  “如果能够,会聪明多少呢?”

  “人类应不应该允许这些机器人比人类聪明呢?”

  “当它们变得比人类聪明时,它们会认为人类是地球上的瘟疫或癌症而把人类灭绝吗?”

  “人类应该为这些可能发生的事情冒险吗?”

  “机器人人工智商需要设置一个限制吗,使机器人足够聪明从而有利于人类但不至于成为人类的威胁?”

  “政治上、军事上、经济上有阻碍机器人逐年变得更聪明的可能性吗?”

  “有很多人认为,制造超智能机器是人类的使命。这些人不喜欢对人工智商设置任何限制。这会在人类间产生冲突吗?”

  随着人工智能机器的出现以及制造更强能力的人工大脑,会出现更多诸如此类的问题。

  我又是怎样看待人类应对人工智能机器的出现所面临的挑战呢?我将会陈述我认为最有可能发生的状况。在这之前,先给大家介绍一个本书中经常用到的新术语,它是表达“神一样超级智能机器”的缩写。这个新术语是“artilect”(人工智能机器),它是“artificial intellect”的缩写,是本书中最重要的概念和术语。

  我相信,人工智能机器在21世纪将成为主导问题——具体指人类是否应该制造比人类智能高出万亿个万亿倍的人工智能机器,也就是说,拥有神一样智慧的机器。我预言人类将分裂成两大主要政治集团,并且会随着人工智能机器逐渐变为现实而使得他们之间的斗争更加激烈。

  支持制造人工智能机器的集团,我称之为“宇宙主义者”(Cosmist),是基于“cosmos”(宇宙)一词。对于宇宙主义者,制造人工智能机器就像宗教中人类的使命;是真正伟大和值得崇拜的;是值得人们用尽一生的精力来实现的。对于宇宙主义者,不去制造人工智能机器,不去创造更高的进化形式,而停留在人类这样微不足道的形式上,是“宇宙大悲剧”。宇宙主义者会强烈反对任何试图阻碍21世纪人工智能机器产生的行为。

  强烈反对制造人工智能机器的集团,我称之为“地球主义者”(Terran),是基于“terra”(地球)一词,反映了他们内在的非宇宙主义的看法。我坚信,地球主义者会争论说,允许制造人工智能机器(以非常高级的形式)意味着接受一个冒险—— 那就是某一天,人工智能机器会认为,无论从什么样的角度来说,人类都是一种瘟疫或有害物。而人工智能机器的智能已远远超过人类,那么对人工智能机器来说,如果它们决定把人类灭绝将是很容易的。

  但是你可能会辩论说,如果人工智能机器真的非常聪明,那么它们会认为人类赋予了它们生命,人类就是它们的父母。因此,人工智能机器会尊重我们,并且对我们很友好。这样的情况可能会发生,但问题是,你无法保证人工智能机器们会像我们期望的那样对待我们。

  不要忘记,人工智能机器可能比我们聪明万亿个万亿倍,由于它们是如此的聪明以至于人类对于它们来说是低等甚至是不值一提的,以至于人类存在与否对于它们来说没有任何不同。

  毫不夸张地说,人工智能机器们试图和人类交流,就像人类想要和石头说话。

读书导航