科幻作家:我们都高估了人工智能对人类的威胁

自从中国围棋输给阿尔法狗以来,对人工智能的恐惧,又一次成为全民议题。甚至在达沃斯夏季论坛上,AI也是最时髦的话题。人工智能将使哪些行业消失?人工智能对未来经济增长有何助益或威胁?人工智能会不会有情感?

企业家们说,人类要和机器合作才有未来;经济学家在争论人工智能是否有泡沫,最近大热的电影《异形》里,机器人已经埋下了灭亡人类的火种。但对人工智能的未来,还有一种声音,来自科幻作家。

近期,作家永城的科幻小说《复苏人》在各地举办了多场签书活动。作为曾经的清华毕业生、斯坦福工程硕士、机器人工程师,永城之前的作品并不“理工”,而是主打悬疑,这部《复苏人》,是他第一次接触科幻题材。

小说《复苏人》的故事,发生在500年后的世界:“那个时代,人类没有私产,禁绝私情;没有亲朋,也没有仇敌;因而从根本上消除了犯罪动机。科技和医疗的发展使得人类基因和思想都达到高度优化和统一。几个来自不同时代的冬眠人在2525年同时复苏,并卷入一场社会动荡。”

作为一个“在全球最先进的人工智能实验室里养了两年蟑螂”的人工智能专业人士,永城对于人工智能的未来,却有着与大众最害怕的东西并不一致的看法。

以下为访问摘录:

一、500年后,一个完美人类世界的样本

问:这个故事的走向,是开写的时候就想好的,还是在写的过程中慢慢形成的的?

永城:我起笔的时候,只对一个人的结局是有想法的,就是男主角秦朝阳。我知道这个人要跟他妻子一起被冰冻。我也想清楚了一个结果,就是故事结尾的时候,他们两个人一定还会和开头一样再被冰冻。这个创意的源头,是因为我看到在重庆有一个女作家把自己给冰冻了(注:2015年,重庆著名女作家杜虹选择将遗体经“人体冷冻”后放入美国最大的人体冷冻机构之一的Alcor)。看了那个新闻,我当时就有一个很强烈的想法,未来可能会有越来越多的人把自己给冻了,不管能不能醒来,但已经有这种服务了,你花钱可以买……

问:其实《三体》里也有冰冻的情节,不知道你看到过没有?

永城:我看过《三体》。《三体》里面更明确。《三体》里的冰冻不是自杀,但是在我这个小说里,主人公没有一个人认为自己会醒来,其实你是另外一种更华丽的自杀。我觉得特别值得叙述的是, 500年后的社会跟现在肯定不一样,如果有朝一日有这个技术,能够让这些年所有冰冻的人都醒来的话,这些人能跟未来世界融洽相处吗?当然不是,肯定会有一个冲突的,就好比说我们现在让很多的500年前的人醒来,他们能进入的了我们这个社会吗?进入不了。他不管是在行为上、意识上、思想上肯定会跟我们有严重冲突的。

科幻作家:我们都高估了人工智能对人类的威胁

《三体》

刘慈欣

重庆出版社

2016

问:实际上这个就像是一种反穿越?

永城:对,因为我们回到500年前,我们是带着优越感的。什么是优越感?就是我们已经很聪明了,我们知道这些东西,我们也知道你们会变成什么样。所以我是带着这种优越感回去,一个上帝降临了一样。但是我要穿到未来去,我是那个白痴,我不是上帝,我到了一个我什么都不知道的环境,里面的每一个人都比我要高级,都是我的上帝。我觉得这种感觉是更恐怖的。这是很严重的恐惧感。所以我就觉得是有意思的一个事情。因为我是现代人,我不是500年后的人,我没法用500年后的人的思维写东西,我只是能用现代人的思维写东西,那我就用现代人的思想到500年后去冒险,去经历那个时代。如果未来的人用某些阴谋来对付我,我有没有办法去自救?有没有办法解脱?

因为我写这本小说的时候,就是因为我觉得我有好多话要讲,我之前写的所有的这种商战小说或者是悬疑小说,它都不能够让我有这么多的空间去讲话,就是让我发表得未来、对人类的看法或者对人性的看法,都没有机会,现在这个小说就给我这个机会。

问:你畅想了一个500年后的社会,但有意思是的,在未来这个社会里,机器并没有占据统治地位,但是人类被异化了,失去了很多生而为人的一些特质。这样一个结果,是推理的结果,还是完全畅想的结果?

永城:我不觉得是畅想的结果,这是一种推理,但是并不是一个特别严格、严密的推理。为什么这么说呢?就是在你数学界或者说理工科做推理的时候都是这样的,你假设一个前提条件,用这个前提条件把其他所有的相关条件都排除掉,就这一种条件推理到底可能是会是什么,这是一种结果。然后你把每一个条件单独拿出来,看它最后会是什么结果,把所有的这些结果都放在一起再去分析。而不是说我在推理的时候就把所有条件都加上,那样就没法推理可能走不下去了。我的这种推理是有一个基础的,就是有一个现代、当前的客观基础的。这个客观基础,是建筑在我们当前的世界定义的所谓的价值观、所谓的正义,所谓的正确,或者说政治正确。

按照现在“正确”作为一个推理基础,再设想当我们能够完全实现这些“正确”以后会怎么样,就是这是一个简单的推理。我现在想讨论的,其实是我们人类的这些所谓的美好理想,我们加给自己的美好的理想,是不是都会隐藏着什么问题。

问:一些美好愿望背后,会有不可知的陷阱?

永城:对,我们人类追求的正确,完全的平等,这与人的天性是否相关呢?外星人我们先不去提,地球上的规则从来都不是平等的,而是优胜劣汰,永远都是优胜劣汰。你在原始丛林里狮子、老虎把弱小的动物吃掉,没有人会说这是不公平的。所以现在我们社会对人类而言,我们想要的就是:我们都应该是平等的,不管你有什么能力,不管你什么出身,不管你聪明是笨,我们都是平等的,我们没有人应该受到不公的待遇。

问:所以你在故事里就把这个理想极端化了一下,所有人不但平等,而且同一化?

永城:我并不觉得这个极端化完全没道理,我觉得当人完全平等以后这是下一步。我们知道人不能接受别人跟自己的意见不一样,这是肯定的。很多人,当产生不同意见的时候,好朋友都可以撕,所以,你肯定希望别人跟你的看法是一致的。如果一致了,就没矛盾了,好多的矛盾来自于我们对事情看法不同。而我们对事情的看法不同,是因为我们的背景不同,我们成长在不同的环境。如果你要是完全成长在一致的环境,你可能对事情的看法就是一致的,就没什么不同。

那未来的世界会怎么样呢,既然那么发达了,那大家就可能会来自于同样的环境。大家都知道某种基因最好了,为什么不用最好的基因呢?为什么会遗留那些会对身体有害的基因呢?

当你知道某种教育体系最好,你为什么不使用他呢?到时候,可能全世界的教育体系都是一致的,每一个人从小生下来接受的信息是一样的,那这种情况下,有什么思想的分歧呢?其实,所谓“洗脑”一直是存在的,不管是什么社会体系下……

问:在你的书里,能找到很多现实社会中的影子。

永城:对,因为这本书就是写现在的。我创造巴土联邦的时候,想象的就是当前的国际形势的最核心的矛盾。因为最核心的矛盾无非是资源方面的矛盾。您听到的所有的声音,看到的所有的冲突,你看到的都是信仰上的区别,或者是价值观上的区别、文明的冲突,在我认为最根本的核心的矛盾点,还是利益的问题,资源和利益。所有的人,想要笼络人心去支持自己挑起冲突的时候,一定会披上一个价值观的外衣,所以我才想把这个故事的核心线索放到能源上,一个叫做蓝质的一个东西。

问:您的主角秦朝阳虽然是一个从事科研工作的人,而且对新能源的发现至关重要,但实际上他在整个故事里并没有一个非常重要的地位,这个是怎么考虑的?

永城:这本书并不是一个硬科幻的小说。大部分的硬科幻小说会创造某种新的技术,让这种新技术去诱发故事。我的小说,完全还是以人物命运的描述为主要推动力的。秦朝阳代表的只是一个普通人。普通人并不能操控这个世界,他只会被卷进去。

虽然他的决定影响了历史进程,但他最后做的决定并不是一个英雄该做的决定,他从来也没想去拯救人类。我觉得拯救人类不是普通人的责任和义务。在好莱坞电影里,总喜欢写普通人到最后变成一个英雄,这样的结构我也不是很认可。其实控制人类命运的这件事情,是远远高于某一个人的个体设计。人类的命运是更宏大的。

科幻作家:我们都高估了人工智能对人类的威胁

《复苏人》

永城 著

北京联合出版公司·阅然

2017-4

二、人都不了解自己,怎么去赋予机器人性?

问:你刚才提到,小说里的故事都是有现实基础的,那么你对现实的看法是怎么样的?你塑造了一个可以制止核威胁的能源,可惜这并不是现实,核威胁仍然高悬在地球之上。

永城:虽然这部小说看起来对未来世界不很乐观,但是我个人对未来的世界还是比较乐观的。我相信最近的100年,甚至是200年,任何的时刻,生活在那个时刻的都会认为世界是一个火药桶。唯一的风险,就是这个火药的等级在升高,那200年前可能就是鸟枪土炮,100年前变成了炸药了,那现在就变成核武器了。但是武器升级的同时,人类也在改变,现在的理智应该比以前要强的多,或者说是理性。在很多年前,战争爆发比现在容易的多。

我所关心的,其实并不是说未来的社会发展成什么样,我更关心的是,人类作为人到底要不要独立思考。我们的比所有别的动物都发达的,一定是我们的大脑,不是其他的任何的东西。那我们为什么会有一个这么发达的大脑?它绝对不是只是让你坐在那儿听别人说什么,听之任之,或者是听人说什么,就全盘接受。

人必须通过自己的观察和思考,产生自己独立的思想,这是作为一个人最重要的事情。

但是现在,绝大多数的人,普遍是缺乏独立思考能力的。现在我们大家都有微信、都有朋友圈,你看到朋友圈里所有人的表现,你就会意识到,大家首先都很情绪化,第二就是非常的不具备独立思考的能力,往往是人云亦云的。我们的信息来的太快,太方便了,反而让我们丧失了去独立思考和发现的能力。

我在做商业调查分析师的时候,比如说我们要去了解一个企业家,就得一个个地采访相关的人,但是现在呢?媒体发达了,有意见领袖,有大量的信息源,你坐在办公室里一搜,可能就出现了很多关于他的文章。你就省事了,你就不出去打听了。但你出来的报告是什么样子?有可能跟事实偏差很大,因为你没有了第一手的体验。你看了别人写的东西,就把它搬过来当作事实,你这个调查可能就没有价值了。

还有一种情况是,我只看我想看的,不看我不想看的,我也不听我不想听的。我们都只愿意接受我们自己同意的那个观点,并不想去接受我们不同意的观点,甚至根本就没有耐心去仔细看,这也是一种缺乏独立思考的能力。

你在小的时候是没有倾向的,你有很多的热情想要看到更多的东西。当你成年了以后,年纪越来越大,你就懒得去找新鲜的东西了,你就只去找你熟悉的——你只去同样的餐厅吃饭。其实这是人类的本性,你要把这个赖到大数据,你可以赖他,但是他只是纵容你。因为这是你自己的选择。

问:那在您的故事里,机器并不是控制人类,其实也是纵容人类?

永城:对,就是机器思考,这也其实是我写这篇小说的时候特别想要讲的一个概念。我们现在过度地夸大人工智能,过度地夸大技术。人工智能是什么?其实是电脑程序。说到底,计算机执行的是什么,计算机执行的是数学。我们学过电脑就知道,计算机做任何事情都是用数学来计算的。我们人的大脑是用数学来思考的吗?当然不是。我们人的大脑要比数学发达的多,我们只是因为想要总结我们的思考方式,所以发明了一种东西叫数学。

科幻作家:我们都高估了人工智能对人类的威胁

电影《机械姬》里塑造的机器人

问:在前一段时间的人机大战之后,柯洁输给了Alphago,有人评论说,柯洁输了会伤心,但Alphago赢了也不会高兴。

永城:对,柯洁根本就不必要伤心。如果我是一个短跑健将,我是全世界跑的最快的人,我会因为跑不过汽车而哭吗?柯洁下不过Aplhago,下不过就下不过了,它是机器。我们其实只是没有真的认识到围棋的本质——那其实还是数学。因为毕竟规则就在那儿,可能性就在那儿,你这个电脑计算这种东西的速度,永远都比人快的多。

问:在《复苏人》里,机器的计算能力非常高,但是它仍然还是人的“奴隶”。

永城:对,因为它自己并没有任何倾向,他也不会有倾向。但是人是退化了,退化的有点像机器了?为什么?就是因为太夸大机器的能力,太崇拜机器了。我觉得对于我们现在的人类来说,这可能是一个风险。

问:很多科幻作品都创造过机器人会具有人性,然后可以控制人类。你觉得机器被赋予人性的可能性有多大?

永城:目前这种技术是没有的,而且,人性是不可能通过计算去赋予的。

有没有一天机器可能会产生人性?这个问题要看人类有没有可能有一天真正解决“人是从哪儿来的”这个秘密。就是说,人必须要真正地解决自己的人性是从哪儿来的,怎么产生的。当你解决了这个问题,你也许就有办法设计出有人性的机器人。

但是现在,人自己都不能解释,人自己不知道自己的欲望和感情是从哪儿来。

三、所有的审美都是人类繁殖本性的体现

问:在小说中,您创造的未来人类,为什么会成为完全没有颜值,没有审美可言的“物种”?。

永城:首先你要看到审美的本质是什么,我觉得这个很重要。好多我们认为美好的东西,它的本质是什么,听起来可能不那么高大上,可能就是为了繁衍。

我们想要在山明水秀的环境里生活,这个也是一个审美,因为是为了人类的生存,因为这种环境往往更适合人类生存。比如说有阳光就适合人类生存,如果没有阳光肯定不适合生存。所以我们看到阳光照在任何东西上,都会觉得美。

所谓人类的审美,本身还是为生存服务的。接近美的东西,远离不美的东西,其实就是要让你能更好地生存。包括颜控也是,所谓人长的好看不好看,其实是一个很简陋、很粗俗的一个判断方式。蒙娜丽莎的美丽,给人的感觉首先是很安全的。

问:有些审美层次很高的艺术品,比如毕加索的《格尔尼卡》,看上去可不安全。

永城:对,要不为什么说毕加索是抽象派呢,为什么它能成为新的艺术形态呢?是因为大家在突破自己,想要突破人性。所有的创新的东西都有想要突破人性的成分在那。文艺复兴是充分地展示自由的这种人性。绝大多数的普通人,会遵从生物本性的审美,很难欣赏一些艺术的创新形式,也是人性。

四、中国学生的“聪明”与外国学生的“笨”

问:理工科的背景,对你写小说有什么帮助?

永城:任何小说必须逻辑是严谨的,故事是完整的,我觉得这个是最基本的要求,我觉得这个不完整,或者是不能自圆其说的话,起码读者的阅读体验是很差的。

大家老说逻辑逻辑,是很抽象的一个词。我觉得说的最通俗易懂的逻辑就是因果,就是因为什么导致什么,这叫逻辑。你不讲逻辑的时候,就只有果,无所谓什么因,一个人可以突然长出一个翅膀就飞走了,你会问人为什么会长翅膀,这就开始推敲逻辑。

问:这是文科生和理科生的区别吗?

永城:文科和理科其实只是一种学科的划分,我不觉得是逻辑上的冲突。因为最伟大的文科人士,比如宗教领袖精神领袖都是讲逻辑的,没有逻辑是不会有宗教的。

问:这几天恰好是高考分数公布,在报志愿的阶段,报文科、报理科,又会出现很多难以选择的情况。

永城:中国的文科教育在退化,它根本不让你自由地去探讨,不让你去产生你自己的理论,这其实是破坏逻辑的。一个人如果缺乏了逻辑训练之后,任何工作都很难从事。不只是工作,处理自己人生的所有的事情都是这样。

问:中国学生考大学的时候,在选专业方面往往是从功利角度考虑的,比如好不好找工作,但听说很多中国学生出国留学后都要转行,这是一种真实的现象吗?

永城:对,我们都是这样,我们的教授都吃过这种亏。给你很多奖学金让你来,最后发现学生根本不喜欢这个学科。

我是1993年到美国的,在美国的本科读了两年毕业,然后到斯坦福。那一届的斯坦福有60个来自中国大陆的学生,全部都是有全额奖学金的。就是各种美国比较好的奖学金的,要不然没有人能读的起这种学校。1997年的时候,我们这60个人主要是来自三所学校,北大、清华和中科大,每一个学校都有10几个,另外有一些别的学校,一个学校一两个,就是这样的组成成分。当时大家都在最顶尖的学科,大部分都是学理工的。现在大部分都没在科学领域做研究,好多女孩子都在做家庭主妇,生了一堆孩子很开心。

我从来没想当科学家,我很讨厌科学,但是我们那个时候,很多美国的学生也没奖学金,他可能还在辛苦地打工,为了进斯坦福也费了很大的力气,但是现在他们都是美国的院士,或者顶尖大学的教授。其实他们蛮“笨”的,并不是传统意义上的聪明人,至少不像我们中国学生那么聪明,但是对他们做的事情特别有热情,一直在那儿坚持。

问:你做了4年的人工智能研究,为什么舍得放弃?

永城:其实就是刚说的那个情况,我不太喜欢技术。其实上大学了以后,我就很痛恨机械制图之类的事,不喜欢不代表我学不好,但是我就是不感兴趣。美国这个社会最大的好处就是,没有什么东西是既定的,你有理想,就可以去试图实现你的理想,你只要有兴趣。理想不是要成名或者是要发财,理想是说我想要去干某一种事情,我就去干。比如说我喜欢骑自行车,我就去参加各种自行车的比赛,但是不代表说我要胜利或者是怎么样。

读书推荐

读书导航