警惕技术将人类演化推向非自然阶段

编者按:2021年被称为“元宇宙”(Metaverse)元年,“元宇宙”一词最早出自于美国科幻小说《雪崩》,在小说中,人类通过“avatar”(数字替身),在一个虚拟三维空间中生活,这个人造的空间就被称为元宇宙。在扎克伯格把脸书公司名改为“Meta”后,我们都在思索,人类的未来,难道真的是元宇宙和虚拟世界吗?澎湃新闻将在“哲学家谈元宇宙”系列中,邀请哲学家们畅谈他们对这一概念的理解和思考,一起探讨人与机器、人与虚拟世界等话题。本期对谈,澎湃新闻邀请到了上海社会科学院哲学研究所研究员、副所长、《哲学分析》杂志主编成素梅。

“元宇宙”一词最早出现于科幻小说《雪崩》。

“元宇宙”一词最早出现于科幻小说《雪崩》。


目前已经形成的共识是,“元宇宙”会将许多有趣的东西联系在一起——虚拟现实、增强现实、游戏和加密货币等等。随着AR、VR、5G、云计算等技术成熟度的巨大提升,元宇宙正在从概念走向现实。在令人激动的畅想中,它将由无数参与者共同去打造,最终跨越物理世界和虚拟世界,形成一种新的社会文明系统。这也意味着技术发展正在从变革外部自然拓展到变革人类自身的内部自然,这对我们在工业文明时代形成的制度安排、概念框架、生活理念等带来了前所未有的挑战。抛开科技的外壳,聚焦于人的本身,我们又该如何理解元宇宙?当元宇宙真的到来的时候,人类会更加幸福快乐还是会在虚实之间迷失自我?

成素梅

成素梅

成素梅近期发表文章认为,互联网4.0时代已经在向我们走来。“‘元宇宙’概念绘制了互联网发展的未来蓝图,互联网4.0有可能实现智联乃至万物互联。这种展望与指向为‘元宇宙’概念打开了无穷的想象空间,其关键词是虚拟、感知拓展、沉浸式体验、自动满足、多主体实时互动、无代码或低代码、去中心化等,目标是彻底消除现实世界与虚拟世界的二分,实现虚拟生活与现实生活的无缝对接或互补融合。”

然而,当信息化、网络化、数字化和智能化越来越成为人类社会的基础设施,就也意味着技术发展正在从变革外部自然拓展到变革人类自身的内部自然,这对在工业文明时代形成的制度安排、概念框架、生活理念等带来了前所未有的挑战。

成素梅提醒,“元宇宙”所营造的去中心化、去权威性、多人实时互动、多空间实时切换等宏大场景,在创造了新的在线文化、虚拟主流化的商业模式,以及深度释放人的创造力与能动性等的同时,却无痕迹地构筑了新的控制框架,带来新的中心化,加剧全球数字鸿沟。而在具有永久记忆功能的数字世界里,去中心化的数字身份系统和动态环境参数实时监测系统的建立,使人们只信任人留下的数据,而不是信任留下数据的人。人与人关系的深度虚拟化,有可能导致新的精神虚无。数字孪生在使人成为信息透明体的同时,为信息滥用和误导开了方便之门,还有可能造成使真实世界中的问题更加恶化等在线伤害,使个人的隐私保护变得更加困难。

电影《头号玩家》中主人公能够借助设备进入虚拟的游戏宇宙。

电影《头号玩家》中主人公能够借助设备进入虚拟的游戏宇宙。

对谈

澎湃新闻:前段时间扎克·伯格宣布了Facebook更名为“Meta(元)”的消息,再次将“元宇宙(Metaverse)”概念推向热潮,您如何理解这个概念?

成素梅:首先我想提出,“元宇宙”这个翻译用词其实是不准确的,从字面意思上理解,“元”概念是指“二阶研究”,比如“元语言”,是关于语言的语言,与此相对应,“元宇宙”是关于“宇宙本身”的问题。Facebook公司是一家互联网公司,其初衷是实现人与人的互联,更名为“Meta”公司之后,将进一步深化这一宗旨,使人与人的互联从单向拓展到多向,从静态拓展到动态等。互联网公司经过近20多年的发展,很多业务已经成了常态和人们的日常,寻找新的商机或技术发展方向,都意味着要寻求新的突破口。

扎克伯格在公司更名的宣传片中,主要赋予“Meta”超越之意:一是超越屏幕界面,营造具有临场感的3D虚拟世界,使用户能够在技术环境中获得在物理世界中由于各种原因无法实现的尖端体验,或至少与物理世界一样的生活感受;二是超越静态的内容浏览或平面视觉设计,创建实时交互的立体空间,使用户能够在其中实时修改内容,获得身临其境的满足感;三是超越单一,实现跨学科协同发展和多技术整合应用,比如,在线平台之间的互联,各类相关技术的汇聚等,使用户能够以活生生的化身形象在不同的虚拟世界之间穿越,获得沉浸式体验,释放想象力,营造丰富多彩的虚拟生活。

澎湃新闻:元宇宙的发展对人类文明会有一个怎样的影响?

成素梅:“元宇宙”的构建就像现在的物联网一样,在未来会创造出崭新的业态,肯定会带来重大变革,会对社会造成很大的影响。首先,元宇宙的构建将加速推动人类文明从工业文明转向智能文明。从历史上看,蒸汽机的发明使人类文明从农业文明转型到工业文明,计算机的出现又将人类推进到信息时代,大数据、芯片、算法等技术的发展又让一切朝着智能化方向迈进。我们现在已经进入信息化、网络化、数据化、智能化融合发展的文明转型期,既可以称之为工业文明的高级阶段,也可以称之为智能文明的孕育阶段。对于人类而言,智能革命所带来的智能文明是全新的文明。如果说,农业文明和工业文明是以经济建设为中心,以发展物质文明为抓手,那么,智能文明则需要在此基础上更加突出或加强精神文明建设。解决经济问题是对人类智慧的考验,而解决人的精神需要与生命意义提升的问题则是对人类智慧更大的考验。以基因编辑、神经工程为标志的当代科学技术发展已经将人类改变自然的目标从外部自然拓展到人的内部自然,而元宇宙的构建如果缺乏适当引导和有效监管则有可能实得其反地成为人类沉迷的新的精神鸦片。

澎湃新闻:到了未来,元宇宙中的数字人和现在的人的区别在哪里?

成素梅:在智能时代,我提出一个“人机双向赋智”的概念,这是第四次技术革命不同于前三次技术革命的重要特征。技术向来都是在赋能于人类,否则,就没有存在的空间。但是,智能技术除了赋能之外,更主要的是人与机器相互赋智能。这一点非常重要。智能机器会通过与人的互动就变得更加聪明,而人通过借助人留下的行为数据实施更有效的管理,发现过去无法发现的问题,特别是,对涉及多参数、大数据的复杂问题有了更深刻的认知与把握手段。但是,智能机器体现出的自主性或类人性,也创设了介于人与工具之间的一类新的本体,这就向建立在人与工具二分之基础上的概念框架、管理体制以及法律法规提出了挑战,现在有些高校已经成立了相关的人工智能法研究中心,来探讨适应智能时代的法律法规等问题。

还有一个需要关注的问题是,现在有些技术人员受元宇宙理念的启发,已经在研发称之为“人类云”的虚拟世界,目标是借助技术实现人与场景在数字世界里获得永生,使后人能够借助可穿戴设备实现时空穿越,与祖先或前辈对话,进行隔空互动或跨时体验。在这个“人类云”中,虚拟替身不仅能够再现真人的音容笑貌,通过网络让真人对虚拟世界的场景有真实感受,而且能够在人的肉身消失之情况下,在数字世界里再现其行为举止。人们还可以在元宇宙中轻易实现在真实世界中无法实现的愿意或梦想,甚至有可能造成对他人的在线伤害。这样,数字人不仅是真人的化身或由真人的信息组成的精神体,而且,还会体现真人的意志,满足真人的需求,成为彼此互动的统一体。此外,元宇宙所刻画的虚拟世界不同于20世纪人们所说的虚拟世界,或者说,赋予虚拟世界新的含义,与此相对应,也会发展诸如建造“人类云”的虚拟世界之类的经济形式。因此,社会治理起码需要跟上技术发展的步伐。

澎湃新闻:数据成为新的代号,一切被数据代言,人是“人”还是“数据”?

成素梅:我曾经写过一句话“人们只信任人留下的数据,而不是信任留下数据的人”。就是人的主体性已经消失了,人与人关系的深度虚拟化,导致人与人在现实社会中越来越疏远,这就有可能导致新的精神虚无。数字孪生在使人成为信息透明体的同时,为信息滥用和误导开了方便之门,还有可能造成使真实世界中的问题更加恶化等在线伤害,使个人的隐私保护变得更加困难。不仅如此,虚拟世界对人的素质也提出了更高的要求,因为人对自己在网络上留下的信息或行为数据已经失去了控制权和删除权。永恒的数据不仅会放大人的缺点,而且有可能成为影响信用等方面的依据,人的透明化与社会的复杂化形成了强烈对比。。

元宇宙加速了智能文明的转型,并且把涉及到人的问题更深刻地反映了出来。人的问题已经不再是以前古希腊哲学家们讨论的“人是什么的”理论问题,而是变成了一个迫切需要应对的实践问题。如果说,人类的出现是自然演化的奇迹,那么,当前技术的发展,则将人类的演化推向非自然阶段,人类增强和后人类主义成为热议的话题,出现了生命保护主义者与未来学家之间的争论。因此,技术的发展到了需要先预估风险之后再发展的阶段了,第四次技术革命所带来的关于人的问题,就像气候变暧一样,是关乎整个人类的问题。所以,“元宇宙”不只是对未来技术与社会发展方向的设想,还是发出了对“人,如何成为人,应该成为什么样的人”以及塑造怎样的文明未来等关乎人性问题的灵魂拷问。

澎湃新闻:目前非常热门的区块链概念强调其去中心化特质,那么元宇宙时代是实现这种去中心化,还是形成某种新的中心化?

成素梅:我倾向于后者。因为元宇宙不是任何一个小公司都能参与的,当大公司提供足够先进的硬件软件来占领市场的时候,它就得到了最多的数据,进而排挤其他小公司,形成垄断。这要求大型科技公司不仅需要具有超越经济利益的人文关怀意识,而且需要具有超越资本逻辑的社会担当。

因为拥有资金、技术优势的数据巨头们可以轻而易举的创造出来新的产品,使不知情的用户,尤其是自治力不强的青少年沦为牺牲品,出现精神沉迷,这一方面加剧了世界数字鸿沟,另一方面还会滋生各种社会问题。比如,那些在现实生活中得不到物质满足的人转而去虚拟世界寻找精神满足,此时数据和拥有数据的人成为最了解用户的人,并且能够掌控用户。这种无形的数据垄断或者说是技术垄断,使得元宇宙在倡导构建去中心化世界的同时,又在另一种意义上建立了一个新的的中心化。

澎湃新闻:“元宇宙”还在概念阶段,但人工智能的快速发展已经能让我们看到一些未来的影子,这些技术会带来哪些影响?

成素梅:这些技术正在向着改变人的自然本性的方向发展,实现人脑的电子化,比如创生出“电子人”,提供利用人和操控人的新手段,助长极权主义,使现有的伦理规范和道德标准彻底失效; 其次,这些技术导致了我们对人的生命的延伸策略、对改变人的自然本性的限度与范围等问题的再一次思考;最后,这些技术有可能使人超越自身在生物意义上所受到的限制与约束,塑造后人类的未来。在这个过程中,人类的生存环境将从当前正在重塑的“人文环境”转向未来有可能出现的“超人文环境”。

澎湃新闻:元宇宙如果消除了现实世界和虚拟世界的壁垒,那么我们是能追求更自由的存在还是进入到了更深层次的束缚?

成素梅:正如技术的发展降低了人们使用照相机的门槛一样,元宇宙的发展也会在未来使人们超越代码的束缚,降低进入元宇宙体验的门槛,现实世界里实现不了的东西可以在元宇宙的场景中以更低的成本和更便捷的方式实现,人们在元宇宙中是更自由还是更束缚,是一个开放的话题,这取决于如何理解自由和束缚两个概念。如果是就人们能够自由做事的能力而言,人们一旦沉迷于虚拟的沉浸式体验,就会束缚人的创造力,如果自由是指随心所欲,那么,在元宇宙的世界显然比现实世界自由很多,就像人的名字基本上是固定的,但网名却是随意更改的一样,人在元宇宙中的身份也可以随着塑造。因此,面对元宇宙的发展,我们需要提高数字素养,来理性而自律地生活在数字化的时代。

澎湃新闻:人类已经走到了受科学技术驱动发展的时代,甚至可以说科技走在了世界前面。除了美好的畅想,我们应该做哪些准备应对未来的风险?

成素梅:“元宇宙”所创建的数字化环境会导致人与环境关系的逆转,不再是人来适应环境,而是环境能够自动地根据人的行为数据乃至神经信息等来预判或理解人的意图,从而自主地满足人的潜在需求。这种投喂方式放大了人的好奇心或猎奇感,精准广告投放的诱导,又会使人无形地丧失求真意识,热衷于成瘾式的游戏生活,人与人的现实互动越来越少,人际关系虚拟化,在被算法投喂的时代里迷失自己。这些都不利于人的社会化与健康成长。

当技术发展有能力影响人的精神层面时,技术研发及其应用就需要谨慎行事,不能信奉先发展后治理的原则。与智能革命相关的技术应该是发展和治理同步走,甚至前瞻性的治理措施走在前面。做到这一点需要我们建立一体化的治理与监管体制、落到实处的部门架构,以及上下联动快速反应机制等。这不是某一个人、某一个群体、或者仅仅是监管层的事情,而需全民警醒,去思考这个一体化的问题。比如从小就对孩子进行一个数字素养教育,让他正确的认识这个数字世界;要求技术人员成为保护人类命运的守护者,尽可能前瞻性地预估新技术可能造成的社会危害,而不是人类旅途中收费站的创建者;要求哲学社会科学工作者从专注于阐释古纸文本拓展到关注社会现实;要求监管部门从出台宏观的伦理治理原则拓展到建立能够应对不确定性和管控随机风险的一体化监管机制等。

读书推荐

读书导航