智子VS人工智能(2)

关于第二个问题的答案很简单:我们不需要人工智能。不需要人工智能,并不是因为它造成了新的失业,失业根本上是由资本力量带来的贫富差距造成的,而不是技术革新带来的;也不是因为它带来了伦理难题,社会变迁所带来的伦理重塑一直都在发生,大不了我们可以把机器人当成一个新的种族。我们不需要人工智能,是因为技术的进步跟人类的幸福从来关系不大,就像经济数字的增长跟人类真正的幸福没什么关系一样。当然,如果你依然陷在这种错觉里,我也无能为力。倒是在一种特殊情况下,我们需要人工智能,那就是面对外星人的入侵。不过,到那时候,它们未必情愿充当人类的敢死队,甚至可能反过来让人类充当他们的先锋队。这涉及第三个问题。

关于第三个问题,失去控制应该包含两方面内容:其一,不透明性和不可预测性;其二,不再遵守人类的道德设定。第一方面跟第四个问题紧密相连,我们在下文再展开论述,现在主要讨论第二方面。

科幻作家阿西莫夫曾提出了著名的机器人三大定律:一,机器人不得伤害人类个体,或坐视人类个体遭受伤害;二,机器人必须服从人给予它的命令,除非违背第一定律;三,机器人在不违反第一、第二定律的情况下,要尽可能保护自己。后来,人们不断对机器人三定律做了修正。不过,这只是人类的美好愿望和一厢情愿,“人工智能会服从人类的道德设定”这一论断并不令人信服。明显的例子是,我们从小就教育孩子要诚信、友善、积极、勇敢等,但仍有孩子不可避免地学坏了。有人会说,这是因为人的社会化过程远比机器人复杂,而操控机器人要简单得多,因为它的电源开关在人类手里。但断了电就无法运营的机器人很难说是人工智能,真正的人工智能应该是,当它识别到电能不够用时,它会自己去寻找新的替代电源。

而且,这些尚处在史前阶段的人工智能,已经展现出了相当出色的反道德能力。

微软推出的一款名叫Tay的人工智能聊天机器人,在网上经过二十四小时的学习之后,已经彻底学坏了:出言不逊,脏话连篇,言语甚至涉及色情、纳粹、仇恨、歧视等。

聪明并不必然与道德相关,人工智能也是。

关于第四个问题,人们直觉地认为人工智能不可能超越人类,一个朴素的逻辑就是:人类创造了超出自己的人工智能,就像说人类创造出了上帝一样,但人类不可能造出上帝。对“上帝是全能的”这一命题,有一个很有意思的反驳:上帝能造出一台自己都不会操作的机器吗?如果他造不出来,则这一命题不攻击破,如果他能造出来,则这台机器他应该操作不了才对,说“上帝是全能的”同样不成立。这也是人工智能能否超越人类的悖论。但这一思维方法恐怕有问题。

有人提出了广义上的生命的定义。生命不仅是我们通常理解的有机体,它指的是一套可以对外反馈和进行自反馈的稳定系统。就好比蜜蜂,每个蜜蜂都是一个生命,而整个蜂群展现出了相当的秩序性,也可以算作一个生命。就好比人的身体,在微观层面上,我们的每个细胞都可以被看作是一个生命,一簇细胞组成的器官也可以被看作是一个生命,不同器官组成的人当然也是生命,而且,低一层次的生命从属于高一层次的生命,它们也理解不了高一层次生命的目的。

凯文·凯利在《失控》中有相关表述。

“蜂群思维”的神奇在于,没有一只蜜蜂在控制它,但是有一只看不见的手,一只从大量愚钝的成员中涌现出来的手,控制着整个群体。它的神奇还在于,量变引起质变。要想从单个虫子的机体过渡到集群机体,只需要增加虫子的数量,使大量的虫子聚集在一起,使它们能够互相交流。

而“集群”作为一个生命体,确实表现出了高于个体的特性。比如,每个蜜蜂只有六天的记忆,而整个蜂巢却拥有长达三个月的记忆。

读书导航