顾骏|上海大学社会学院教授
本文将刊载于《探索与争鸣》2017年第10期
人工智能的诞生意味着地球进入“二元智能时代”。以中国传统哲学范畴观之，人工智能近于“体”而非“用”，“道”而非“器”，“天”而非“人”。人类未必能预见人工智能的终极效应，人工智能并非简单模拟人类智能，通过“单项能力”的拓展和整合，最终超越人类智能是可能的。人工智能缺乏非理性思维能力未必是弱势，没有自我意识反有可能带来合作优势。人工智能的本质是“无机智能”，数学尤其是算法的独特作用透显出智能一般及其背后的天道。人工智能发展存在巨大不确定性，但纠结于利益纷争的人类，无法采取共同行动，无机智能按照固有逻辑发展，最终取代有机智能。
人工智能是当下最受关注的技术创新和产业趋势。从积极方面说，人类能够利用人工智能提高生产和生活效率，这已成共识，可以讨论的只是在多大程度上实现这一点。从消极方面说，“第四次革命”、“奇点”、“颠覆性影响”等说法，传递出人类对人工智能既爱又怕的复杂心态。未雨绸缪，为确保人工智能开发不至于走得过远，集聚失控风险，前瞻人工智能可能给人类带来负面影响的研究也越来越多。
问题是，目前国内有关人工智能风险研究大多未涉及人工智能本身属性，即便有，多为零星表达，缺乏完整论述，更未对所取立场、视角和方法作方法论反思。因此，虽在具体问题上见仁见智，积累了不少有价值看法，但基本上停留在形而下层面，将人工智能等同于人类已有的创造，并以人类过往对科学技术的有效管控为参照，对其与人类智能的关系，采取简单乐观的态度，至多针对就业岗位减少等表层效应，进行预测，提出应对方案，而对人工智能开发整体上表达审慎和忧虑的论述极少。客观地说，如此态势对人工智能的发展来说，构成相当友好的环境；但就正视人工智能可能带来的颠覆性影响，充分评估潜在的负面效应，提前做好风险应对的准备而论，则是明显不够的。一旦出现未曾预料的新现象、新进展、新证据或新后果，现有的前瞻研究很容易被证伪，无法起到科学预测应有作用。事实上，从“深蓝”到“阿法狗”，遵循“摩尔定律”的人工智能，以其神速发展和已达到的智慧水平，一再给人意外之震撼。按照这条轨迹和速率，在未来的日子里，人工智能震惊人类的频率和烈度，只会趋于密集和增高，盲目乐观将被证明是不智甚至愚蠢的。作为对人类共同命运的关注，中国的人工智能风险研究尤须走出表层思考，努力提升思维层次，形成与发达国家学者对等交流的态势。为此，需要适度保持超脱，发挥想象力，从哲学高度，提出问题，预判未来。
何以定位人工智能？
讨论人工智能及其可能带来的风险，首先需要对人工智能给出定义，这看似天经地义，其实不然。人工智能的诞生对人类文明具有“破天荒”性质，要给这样的事物下定义并不容易。这不是因为论者众说纷纭，而是因为定义取决于看待人工智能的角度，只有先明确在哪一个思维层次上开展讨论，才能给出有用而且可行的工作定义。为此，本文先借用中国传统文化的三对范畴，“体与用”“道与器”和“天与人”，来定位人工智能及其与人类智能的关系，尔后再针对相关问题展开探讨。
（一）“体”还是“用”？
“体”与“用”是中国哲学的基本范畴。西学东渐之后，中国学者提出“中学为体，西学为用”，主张以中国文化为本体，西方文化为效用，利用西方文化来帮助中国文化固本强干。这种本意良好却不无封闭之嫌的态度随即遭到批判，但体用之别的视角并没有被抛弃，中华民族坚持走自己的路，始终强调“中国特色”，就有类似策略隐含其中。
套用这一思路，风险研究首先必须确定,人工智能到底应该被看做是具有自身存在和固有逻辑的“自在本体”，还是像其他技术手段一样，只对人类具有某种“工具效用”。如果仅承认其效用，那只需与以往对待电能和石油，现在对待高铁一样，持平常心即可，没必要过多忧虑，什么对人类的颠覆性影响，更无从谈起：不成其为“本体”，何来人工智能颠覆人类智能的问题？
反过来，如果把人工智能置于“本体”地位，则必须考虑，引入人工智能是否意味着在本来由人类智能一统天下的世界上，出现了竞争对手？一元的智能世界是否就此变成二元世界？两种智能的关系又将如何？如此这般的问题就不再是借助人工智能来提升人类智能那么简单，甚至不限于人类智能和人工智能谁胜谁负，还将波及诸如外星文明、宜居星球等更具科幻感的宏大话题。
在天文学领域中，人类曾经跨出勇敢一步，从“地心说”行进到了“日心说”，基督教宇宙秩序从此被颠覆。在人工智能领域，人类能否迈出同样勇敢的一步，在界定人工智能时，从“用”进到“体”？这两项思想行动之所以称得上勇敢，因为挑战的是同样的思维误区、同样的刻板模式和同样的自我遮蔽——人类中心主义。
（二）“道”还是“器”？
“道”与“器”是中国哲学的另一对基本范畴。孔子说“君子谋道不谋食”“朝闻道夕死可矣”，还说“君子不器”。“道”具有形而上属性，是世界的本源，而“器”只有形而下属性，满足于运用专业技术，建设物质层面的美好生活。今日所谓“人才”者，在孔子看来，差不多都可以称为“成器”了。简言之，“道”与“器”这一对范畴问的是，人到底为了超越性的更高存在而存在，还是仅为生存而生存。
把这一思考方式运用于人工智能，虽不严谨，却有价值。因为一旦承认人工智能具有本体属性，必然会进一步提出问题，即人工智能究竟是作为一种更高存在，比如“道”的实现形式，还是仅止于其自身的工具性存在，即所谓的“器”？换言之，人工智能的发展是按照某个外在指令不断演化，还是仅仅依靠人类而获得技术层面的不断完善？
如果视之为“器”，那么只需要讨论如何把人工智能设计得更完善，所谓负面影响即便纳入考虑，也仅限于实用层面，根本不用关心“颠覆性”问题，潜在的风险充其量不过技术失败。所以，前瞻只需要从人类角度，注意避免人工智能可能存在的缺陷和因此导致的风险。
相反，如果视之为“道”，那就不能不承认，发展人工智能必然服从某种固有逻辑，顺应某种规律，不以人类意志为转移，因此，人工智能的风险研究必须致力于揭示其逻辑指向，找到必然趋势，然后才能预测相关技术会产生什么影响，包括负面影响，否则，预测难免成为碎片，而前瞻也成了鼻子底下的探险之旅。
（三）“天”还是“人”？
承认人工智能是“体”，体现“道”的要求，接踵而来的问题是，这个“道”是“天道”还是“人道”？也就是说，人工智能作为模拟智能，模拟的到底是存在于宇宙中的智能一般还是人类的特殊智能？
中国传统文化相信“天人合一”，所以，天道即人道。但既然存在天道和人道两种形态，那彼此的关系问题就不会是没有价值的。“人道服从天道”是中国文化的根本信念。老子说：“天地不仁，以万物为刍狗”。在这里，“仁”是人道的最高体现，在人文价值体系中居于核心地位，但在“天道”运行范围内，却无足轻重。
把这一视角运用于人工智能，如果模拟的是“人道”，那么模拟者要超越被模拟者就相当困难，人工智能只会跟随人类智能，“孙悟空跳不出如来佛掌心”，往哪个方向发展，达到什么水平，尽在人类掌控之中。一旦发觉有可能遭遇重大风险或威胁，人类可以直接中止人工智能的进一步研发。
如果人工智能模拟的是“天道”，那无论人类怎么干预，人工智能总会遵循固有逻辑，沿着不受人控制的方向，发展下去。在这个过程中，自然指令才是人工智能发展的最终动力，超越人类智能因此是完全可以想象、绝对符合逻辑的。毕竟，至今没有人证明，人类智能是宇宙最高智能形态，不可超越。“道可道，非常道”，人类智能也好，人工智能也好，都只是智能一般的实现形态，而不是智能一般本身，所以,仅凭对人类智能的不完全认识，不足以断言智能一般是怎么回事，也无法断言人类智能必定凌驾于人工智能之上。事实上，智能机器人有了深度学习能力之后，超越人类智能的现象已多次出现。警报早已拉响，研究者不能选择性失聪。
最近有报道，Facebook进行的研究项目中，两个智能机器人在对话中自发生成了人类无法理解但确有意义的语言，出于审慎的考虑，研究者中止了该项目。对于这样一个案例，站在人工智能只是追随“人道”的立场上，会相信人类的理性和控制力，只要关闭研发的主动权仍在人类手里，就不用担心人工智能会颠覆人类智能。而站在服从“天道”的立场上则可以推断,无论人类看没看到威胁，愿不愿意接受风险，都将身不由己地继续研发，即便出现更为骇人的情形，也不得不任其发展，因为有超越人类的自然机制在控制着人类本身，驱使人类有违本意地放行人工智能直至最后毁灭人类。
纵观世界，人类装备核武器、制造巨量垃圾、严重污染环境，且应对无方，早已准备好毁灭自身的条件，不差人工智能这一项。如果宇宙演化规律确实只是让人类做一回“天地之过客”，那在人工智能研发的关键时刻，人类的自由意志将只会被用于开启自己墓道的闸门！
这三个维度以及内含的两个不同方向，对于前瞻人工智能都不是没有意义的，但风格不同，层次不同，关注点不同，最后结论也将完全不同。鉴于目前关于人工智能的研究在“用”、“器”和“人”的方向上比较多，基于补缺的考虑，本文有意更多地往“体”、“道”和“天”的方向上，来前瞻人工智能及其可能的风险。
人工智能“体之问”
关于人工智能的定义林林总总，择其要者，在形而上层面上不可缺少的要素主要有三点。第一是人造的，不是独立进化出来的；第二是模拟人类的，不是无所参照的；第三是由各种原本没生命、不会思考的人造物件，整合之后，表现出了思维的特点和效果。至于其他技术性要素，包括硬件、程序、算法和海量数据等，基于本文的形而上视角，不妨暂且搁置。现在需要考虑的是，如果人工智能是“自在本体”，那么人工智能与人类智能两个“本体性存在”之间的关系又当如何？
（一）被颠覆者有能力前瞻颠覆者吗？
关于人工智能与人类智能的关系问题，当下最简洁也最直击要害的定性描述是，人工智能有可能颠覆人类智能，所谓“奇点”就是这一天到来的时间节点，据说从现在算起，还有30年左右的时间。今年，英国物理学家、哲学家霍金多次提出明确警告，人工智能的崛起可能是人类文明的终结，“我们不确定我们会从人工智能得到无限帮助，还是被无限边缘化，甚至毁灭。”霍金是为数不多敢于作“盛世危言”的科学家。尽管他对人工智能和利用人工智能造福人类，总体上抱乐观态度，但一个“不确定”已清楚表现出其思想的独立和态度的审慎。现在的问题不在霍金是否杞人忧天，而在人类智能有没有能力预见,可能导致其被颠覆的人工智能及其未来发展和相应风险？
人类智能的核心能力是理性思考，而理性是人类认识和改变世界的最重要手段，如果不说唯一的话。然而，现代社会科学尤其是社会学恰恰产生于对人类理性的悖论性认识：社会学认识到法国革命的结果不尽人意后，基于理性设计不足以建成理想社会的事实，推断出人类理性本身存在缺陷，在此基础上，重新提出研究和改革社会问题的理论构想和应用方案。这一发现本身具有极大理论价值，称得上人类自我认识的一个里程碑。但问题是，单凭有缺陷的理性能认识理性的缺陷吗？人类借助理性获得的关于理性缺陷的认识，会不会本身就是理性缺陷的结果？
同样道理，如果承认人工智能有可能成为人类迄今为止遭遇到的最大的“颠覆性影响”，因其挑战了被视作人之为人的本质属性，即人类用以认知、改变和创设世界的能力，那么，关于人工智能的风险研究难免遭遇相似的悖论：作为自在本体的人工智能及其带来的颠覆性效应，是最终将被其颠覆的人类智能所能预测的吗？
霍金等科学家对人工智能发展前景表示忧虑，很大程度上就因为看到形同“灯下黑”的人类思维悖论。人类智能的有限决定了人类对人工智能及其影响的认识是有限的，决定了由此提出的前景预测和解决方案在有效性和可靠性上是有限的，这没有什么不可接受的。为人类生存和理性尊严计，关于人工智能各种方向上的前瞻研究都是必要而且重要的，但研究者需要在承认“理性有限”的基础上，合理借鉴社会科学界已经提出和实践了的方案。
长期以来，社会学致力于通过改进研究方法，弥补理性局限，所谓“实证研究”，根本上就是为了排除“先入之见”和“玄思空想”，转而以社会生活为参照，随时调整自己的认知结构，争取获得可靠知识。作为社会学重要理论流派之一，现象学社会学明确要求回归不同于科学理性的“日常生活逻辑”，并设计和开发出专门的理论工具“民俗方法论”，意义就在于此。同样，现代经济学从有限理性和不完全市场出发，提出种种构想和对策，其背后的逻辑同样是希望以超越个人和市场的社会机制，来克服有限理性的局限。
参照这些学科的思路，人工智能风险研究有必要提出,人类智能可能遭遇人工智能颠覆的假设，并在主要方向和基本方法上，反思已有判断和评估及其背后的参照和标准的合理性，摒弃遮蔽人类认识的文化偏见，找到合理的理论和方法，提出有解释力、预见力和应对力的理论解释和实操方案。
（二）人工智能仅止于模拟人类智能吗？
视人工智能为“用”的人士往往相信并坚持“人工智能只是对人类智能的模拟”，跟其他人造物没有本质区别，所以只能为人所用。就其来源而言，人工智能确为人类为提高自身能力而发明的造物，不是自然直接产物，也不是更为高级的存在物如外星人带来的。这样的解读看似没有问题，其实恰恰是最大问题之所在，因为“人类发明”这种说法本身不是没有讨论余地的。
人类发明到底是无中生有，造就了自然不存在的东西，还只是发现并造就了自然界虽然没有，但允许存在的东西？数学的确是人类的发现，但却不是人类的发明，人类不能创造数学关系。迄今为止，自然虽然不具有自觉意识和主观动机，但无需借助理性和意志，便产生了许多精妙之物，许多人类没有能力制造的精妙之物，包括最精妙的人类本身。这就是所谓的“自然智慧”。
自然创造人类，赋予人类以创造能力，并通过人类创造出自然自身无法直接产生的东西，这是地球史意义上的事实。但正是这个不可否认的事实，引发了某种逆向想象：自然之所以创造人类是否就为创造一种专事创造的“代理人”，以便创造出自然无法直接创造但允许存在的精妙之物？人类智能就是自然智慧的显性化吗？
只要承认人类只能创造出自然允许存在的东西，包括所谓的“人工智能”，我们就将面对另一个可能：人工智能不但不是人类智能的简单拷贝或延伸，而且人工智能的根本属性不取决于人类，而取决于自然允许何种智能形态存在并达到何种智慧水平。尽管这会伤及人类自尊，但人工智能的拟人属性确有可能是虚幻的，相应地，关于人类可以控制人工智能的发展及其后果的自信，也确有可能是虚幻的。
这就是说，人工智能最后完全独立于人类智能，是其作为“自在本体”的固有逻辑，人工智能最终给人类带来超乎想象的挑战，导致真正意义上的“颠覆”，因此也是完全可能的。目前，已有越来越多的领域传出人工智能取胜人类智能的实例，从法律咨询、癌症诊断、无人驾驶到空战中人机对抗，面对智能机器人，人类一再失利。在这样的现实面前，我们不能不从逻辑和现实的两个角度，为人类智能寻找可依托的抵抗阵地。
（三）“单项型”能战胜“全能型”吗？
在对“单向型”人工智能和“全能型”人类智能进行优劣比较之前，有必要回顾一下人工智能已取得的一项根本性突破。
目前智能机器人已达到通过主动学习，按照给定目标，就可以由海量数据来自行做出决策的阶段。这表明，人工智能开始脱离人类“手把手”帮扶，而具有了自主行动的性质和能力，拐点就在人工智能的运行完成了“从数据，而不是从规则开始”的转变。
在相当长时间里，机器人的“思考”可以粗略概括为借助人类设计的程序，基于对人类选定数据的处理，找到可能的结果，“深蓝”就是这一模式的样板。这种运行模式犹如学生学外语，先学会语法，再掌握单词，然后获得运用语言的能力。掌握哪种语言的语法和单词，决定了个人能运用哪种语言。在这个阶段，人工智能不可能跳出“如来佛掌心”，获得相对于人类的独立，因为“语法”决定一切，而“语法”是人类编制的。
自从人工智能模拟神经网络系统，有了深度学习能力之后，智能机器人在“思考”上实现了质的飞跃，不再依赖人类预设的程序和给定的数据，而只需要接受人类设定的目标，就能借助算法，基于对海量数据的分析，提出解决问题的方案。“阿法狗”战胜世界围棋高手，成就就是这样取得的。这种“思考”特点犹如婴儿学语言，不是从语法开始，而是从单词开始，通过接触大量语言现象，无师自通，完成从不懂到懂的转变，即使没有语法知识，照样能符合语法地理解和表达。人类婴儿无需具备任何一种语言的语法知识，只要直接接触语言，就可以同时掌握多种语言，相互切换而不产生混淆。
具备这样的深度学习能力后，智能机器人开始在越来越多的场合赢了人，但相信人工智能只是“器”的人士，仍不相信智能机器人最后赢得了人类。理由是，人类思维属于“全能型”，智能机器人即便有能力“从数据开始”学习和发现，依然局限于“单项”的学习和运用，所以存在先天不足，无法整体超越人类智能。这个看似合情合理的论断，其实不是没有问题的。
至少在目前，“单项型”的人工智能确实表现出将“全能型”的人类智能分解之后，模仿其中某些智能元素而单独运行的特点，但这种“智能单体”相比其“母体”，即人类“智能复合体”，已经表现出某些特点，并达到了更高的智慧水平。
于是，问题就转变为：人工智能依靠单项优势的迭加，能否超越人类智能的全能优势？通过拓展人工智能的单项能力，人工智能最后能否在综合能力上也超越人类智能？有能力深度学习的智能机器人会从单一项目自发拓展为“触类旁通”，而至无所不能，就像人类现在一样？在这样的背景下，如果科学家继续研发，假以时日，更多的单项智能得到不断拓展、相互整合，会不会来到一个真正的拐点，也就是“奇点”成为现实的时刻？
在Facebook被中断的智能机器人彼此对话项目，最好不过地说明，即便人类只是在现有思维水平和技术逻辑的基础上继续进行开发，智能机器人也能以“从数据开始”的学习方式，遵循固有逻辑，实现自我发展。至此，问题就成了：人类愿意让人工智能走出人类的控制吗？Facebook的回答是：NO！至少暂时。
人工智能“道之问”
把人工智能视为“道”，必然会从另外一个角度提出问题。“道在屎溺”。作为自然本源的“道”，无处不在，但又什么都不是。人类智能肯定是“道”的体现，但又肯定不是“道”本身，只是“道”的无穷面相之一。人工智能虽然模拟了人类智能，但是否必须具备人类智能所具有的重要特质，才能被认为同样体现了“道”？不具备人类智能的某些特性，会不会更能体现另一层面上的“道”？
（一）不具有非理性思维能力，利耶弊耶？
在主张人工智能不可能超越人类智能的人士那里，不具有情感、审美等人文性感知和思维能力是人工智能不可克服的内在缺陷。这种看似有理有据的论证，在方法论上可能只是又一次“灯下黑”。
其实，面对机器人，人类不用隐瞒，多少男女是在精心计算利益之后，才让自己“堕入情网”，并非如18世纪苏格兰思想家所认为的那样，理性只是非理性的奴仆。更好的反面例证是，智能机器人“小冰”通过深度学习，借助算法这种纯粹理性的方式，写出了诗意盎然的篇章，不加说明，看不出同人类作品有什么不同。
如果进一步打开人类群体交往的心理结构，还可以看到，个人独特的情感性表达背后同样有着某种理性安排。只要希望获得他人共鸣，诗人就必须按照一定的惯例，运用文字、意象和隐喻，因此必定呈现出相当的逻辑运行特点。而只要有惯例存在，数据就不会没有指向性，基于概率的算法也不会没有用武之地。所以，模拟非理性思维，对人工智能来说，并不是一条难以跨越的鸿沟。
更有甚者，非理性因素的缺乏还可能让人工智能在特定场合，占有更大的竞争优势。比如智能机器人团队由于其成员被统一排除了“非理性”因素，不存在诸如“私情”“面子”“嫉妒”等心理动机，因个体情感或情绪而损害团队合作的情况将不会发生，“心往一处想，劲往一处使”，通过算法真正成为现实，而“督战队”等监控设置则成为纯粹多余，除了人类对智能机器人本身的监控之外。
不过必须承认，在这一思考层面上，人工智能的所谓“优势”仍依附于人类的目的，要跳出见“器”不见“道”的人工智能观之窠臼，还需要再切换一个角度来看问题。
人类智能包含理性和非理性两种思维方式，其中理性主要体现为有能力找到“手段与目的的客观关联”。相比非理性，理性更具有物的属性，即普遍有效性。通常，基于理性的行动和结果具有明显的确定性，不以个人意志为转移，甚至还能“强加于”个人，所以，在哲学上被列入“外在性”范畴。众所周知，在一定的工程要求之约束下，不同工程师设计的桥梁方案不但具有相似性，而且可以评估出哪个方案成本控制最好，承载力和安全性最好，这些指标及其背后的原理都具有“客观性”，不以工程师个人意愿为转移。
反过来，非理性更多地表现为个体身上难以预测甚或无法理解的特性，不但反映出个体间的实质性差异，还带来个体思维及其结果的不确定性。许多时候，人在理性思考时，也会不由自主地加入非理性成分，从而大大增加思考和思考结果的不确定性。“以小人之心，度君子之腹”，如此“匪夷所思”的情形就是由此而来。
与人类智能不同，“纯理性”的智能机器人因为拥有无差别的“神经网络系统”，遵循同一套算法，面对相同的海量数据，在理论上，有可能得出同样的“深度学习效果”，从而大大降低思维的不确定性。现在单台智能机器人诊断癌症的速率和准确率,已经大大高于单个医生，如果让多台智能机器人与多位医生进行团体赛，前者的赢面应该更大，因为医生相互之间的差别肯定大大超过智能机器人，而表现的稳定性则大大低于智能机器人。
这下新的问题来了。如果人类智能内在的不确定性，具有类似生物多样性的价值，能让人在逻辑推理之外，获得意外的发现和发明，那么，失去不确定性，对人工智能来说，岂非就意味着不可能像人类智能那样，获得“命运女神的眷顾”？如此是否又成了人工智能只是“器”，而不是“道”，不符合“创造之道”，因此也就不如人类智能的证明？
遗憾的是，如此推理即便给人带来了些许宽慰，仍然过于短暂。在善于深度学习的智能机器人那里，发现或发明本身会不会不再依赖于不确定性，而是像算法那样，在给定约束下，只能获得“唯一解”？发明变得确定了，会不会恰恰是人工智能所体现的另一层面上的“创造之道”？
其实，借削弱不确定性来颠覆自己的创造者，本来就是人类无师自通的策略。在生命世界里，“适者生存”作为自然智慧，通过个体变异的不确定性，借助环境的作用，驱动物种进化，人类本身就是由此而来。但自从建立了“一夫一妻制”后，理论上所有个体的基因都拥有了同等的传递机会，原本依托不确定性机制的“适者生存”规律从此被边缘化。在极端场合下，甚至出现最不具备生存优势的个体拥有最大的基因传递机会，越是贫穷愚昧的群体生育率越高，客观上导出了“不适者生存”的文化逻辑，自然智慧被颠覆了。既然人类可以在生物进化范围内，以削弱不确定性，来颠覆创造人类的自然智慧，那么，人工智能为什么不可能在发现和发明领域内，通过削弱不确定性，来颠覆人类智能而自行其是？
（二）人工智能需要自我意识吗？
视人工智能为“器”而非“道”的观点,还有一个强大理由，那就是唯有人类具有自我意识，而智能机器人不具有。没有自我意识，机器人就不会想到脱离人类控制，更不会想到控制人类，机器人纵然有了智能，仍然只是“机器”，不是“人”，所以还得听从人类驱使，不可能超越人类。
人类如此看重自我意识，可以理解，但要说其他物种没有自我意识，却当不得真，最后结论可能只是“统计口径”问题。至于说自我意识是智能形态的必备要素，则问题更大。大自然创造了人类至今创造不出的精妙事物，包括人类本身，却从来不曾有过自我意识，除非我们把人类意识看作大自然自我意识的显性化。所以，要以人工智能是否具有自我意识作为依据，来判断其能否超越人类智能，是不充分的。
退一步讲，自我意识通常被认为有能力区别自我和他人，会站在他人的立场上看待自己，并因此产生对自身与他人关系的感觉，进而产生脱离他人控制甚至控制他人的意图。现在，无论阿法狗还是人机对抗中的智能机器人，在博弈时，不但知道攻击对手，也知道针对对方意图，保护自己。在这样的情况下，人工智能还被认为不会区别对方与自己，不会站在对方立场看待自己，所以尚未形成自我意识，哪怕最朴素的形态，只会让人怀疑研究者故意采用循环定义，来欺负尚不能参与同人类自由讨论的智能机器人。
今天，扫地机器人在电能储备衰竭时，会自动走向电源，为自己补充电能，“延续工作生命”，以后会不会在零部件出故障时，自行召唤无人机把自己送回工厂，自行启动专事维修的机器人给自己更换零件？类似的机器人自我支持功能不断丰富、完善和积累，会不会带来质变，推动智能机器人彼此形成Facebook研究项目中一样的自主对话并产生人类听不懂的语言，进而促成智能机器人“大团结”，寻求在更多场合找到自行满足需要的方案，最后以减轻人类工作的方式，实际脱离人类控制，取得独立于人类的本体性存在？在阿法狗和围棋手结对比赛中，因为判断输赢已定，但围棋手仍欲“负隅顽抗”，阿法狗违拗棋手意愿，连出败着，强制结束棋手徒劳的挣扎，表现出明显的独立倾向。独立意识有了，自我意识还会远吗？或者反过来说，独立意识有了，还会没有自我意识吗？
随着越来越多的设计工作被交给智能机器人，最后连设计智能机器人的工作也将被智能机器人给接过去，这是一个十分自然的趋势。而只要智能机器人能学会自行设计、自行制造、自行维修、自行更替，有没有同人类完全一样的“自我意识”，很可能并不具有太大的意义。所以，以人类为参照而推导出来的人工智能种种不足，最后可能被证明绝大多数都是“灯下黑”的结果，没有多大实际意义。
甚至还存在一种相反的可能。在未来智能机器人与人类的对抗中，没有自我意识，反而成为机器人团队的优势。因为没有私心，不会尔虞我诈，因为没有生命，随时可以修复，不会贪生怕死、临阵脱逃，所以，既不需要自律的伦理道德，也不需要他律的法条戒律，围绕同一目标，运行同一神经网络系统或更高智能配置，面对同一海量数据，智能机器人高度共识、不存芥蒂、精诚合作，最后形成的强大合力必定远远超越人类团队，从而在人机对抗场合，获得压倒性优势。这一点将在未来的战争形式，人机混合作战中得到最后检验。智能机器人比人类勇敢无畏、齐心协力是可以想象的！
人工智能“天之问”
一旦明确，人工智能虽然模拟人类智能，但不需要亦步亦趋地模拟人类智能的一切，便可以实现并拓展其智能属性，并进而取得相对人类智能的优势，随之而来的问题就是，并非单纯模拟“人道”的人工智能，又在何种意义和程度上体现了“天道”？
（一）人工智能还是无机智能？
历史无数次证明，使人类难以真正认识世界的，不是世界本身难以被理解，而是人类太容易受到先入之见的蒙蔽，在人工智能问题上，这样的情形又一次发生了。
“人工智能”这一称呼，明显以人类自身为本位，视人工智能完全为参照人类智能之样板而开发出来的智能形态。为了跳出未经反思的“人道”误区，在“天道”的层次上考察人工智能，有必要把人类智能和人工智能作平等看待，为双方找到一个更具中立性和客观性的范畴，以体现“天道面前人人平等”的原则。有机智能和无机智能就是比较到位而且得体的名称。
所谓“有机智能”说得简单些，就是生物智能。所有生物包括人类在内，都具有不同层次和程度的智慧，所有这些智慧的产生、存在、运行和演进，本质上是生物学过程，也就是有机物质的化学或电化学反应过程。作为有机物的高级形态，具有新陈代谢功能的蛋白体具有感知环境的能力，所谓“自我意识”由此发端，区别物我，选择广义食物的需要，最终导致意志行为或有目的行动的诞生。有机智能是历史和逻辑两个维度上的必然结果。
无机物不是没有变化，更不是不会有化学变化，但无机物无法选择变化的方向。树木可以因动物啃咬过度，而进化出毒素或针刺，甚至引诱蚂蚁筑巢来自我保护，而铝材的氧化膜虽然有助于防止进一步锈蚀，但正常的人不会指望铝材除了“规定动作”之外，还会有“自选动作”，进化出更好的防氧化策略。无机物在自然界中无知无觉、无所作为的状态，随着人工智能的诞生被打破了。
主要利用无机物或者没有生物活性的有机物组成的机器人，现在拥有了智能，会通过同样不具有生物活性的传感器来感知信息，会借助算法，通过电子开关来运算，会通过机械装置实现位移，知道自己所处状态，明白自己需要，利用其他装备自行解决问题，如此等等。表现在由无机物集成的机器人身上的无机智能，其智慧水平已大大超过许多生物，在局部领域甚至超过了人类。有报道称，智能机器人最高已达到7岁孩童的智商水平。智慧可以在无机物中产生，其意义远远不应被局限在人工智能能否战胜人类智能的狭隘范围，而应该被视为揭开了地球范围内，自然进化越过人类文明的序幕：
因为生物化学性质不稳定而难以解决的生命不死的难题，在智能机器人那里，至少不那么严重，机器人零件更换远比人类器官移植方便，不但供应不成问题，不用艰难的基因配对，还不会出现排异反应，人类千百年来的长生不老追求，没有在自己身上实现，却在所造之物身上实现了。人类或许会因此感到尴尬乃至伤感，但不值吗？
因为没有破解人类生命持续时间的极限，而难以开展的人类进入外太空遥远星球的计划，有了无限生命的智能机器人之后，完全有条件启动了，当务之急不是设计和运行整套生命维护系统，而是解决搭载智能机器人的飞船本身的运行寿命问题，以确保在飞向人类遥不可及的星球途中不至于停车。
因为人类需要氧气、水分和食物，所以对宜居星球有极为复杂而严苛的要求，现在不必了，因为智能机器人不需要氧气，甚至没有氧气更有利于避免氧化；不需要喝水，至少不那么频繁且数量巨大，更不需要对水进行循环处理；不需要依赖阳光、空气、水分和土壤才能生长的植物和转化植物蛋白质为动物蛋白质的动物，一台3D打印机足以解决智能机器人大部分的“生存”需要，材料来源不定还能在外星球就地解决。由此，地球文明而不是人类文明可以造访的星球，一下子变得无限多了。
所有这些以有机智能为前提而产生的难题，因为智能机器人的诞生迎刃而解，摆脱了人类之后，地球文明将轻而易举地进入宇宙文明的时代。到这个时候，讨论人类智能还有意义吗？讨论个体意志还有意义吗？讨论人类存不存在还有意义吗？霍金所说的“人类被边缘化，被毁灭”，应该就指人类受生命制约而无法走出的边界，被无机的智能机器人一步跨越！既然如此，自然还需要人类作为创造的“工作母机”，当人类创造的机器不但能自我生产，还能自行创造的时候？
（二）算法是“道成肉身”吗？
随着无机智能逐渐逼近有机智能甚至局部超越有机智能的时刻到来，一个从来不曾被人意识到的悖论清晰地浮出了水面：如果有机智能不比无机智能优越，怎么能研发出无机智能？如果有机智能比无机智能优越，怎么会允许无机智能轻易超越自己，虽然目前仅表现为局部？要破解这个悖论，需要引入一个大胆猜想，一个有关算法与天道之关系的猜想。
有机智能到底是如何产生的，其运行方式究竟是怎样的，至今对人类来说还是一个谜。好多年前有科学家说，人类对自己大脑的认识还不如对月球的认识。这种状况或许现在有所改善，但就创造性这个关键属性而言，人类对大脑的认识没有突破性进展，否则诺贝尔奖获得者可以批量生产，或者干脆不用生产，直接让无机智能承担就是。
在人类对大脑核心功能的认识没有突破性进展的情况下，有关无机智能的研究却发现了最具实质性意义的运行方式，即算法。随之而来的是无机智能开始突飞猛进地追赶有机智能的步伐。这样的态势让人不能不追问，在智能领域，算法到底意味着什么？只是人类发现的一种工具，还是天道的直接指令？在无人知晓的有机智能运行方式背后是否同样有算法的存在？地球智能乃至宇宙智能，即智能一般的共同特性难道就是数学或者算法吗？
数学发展到今天，远远超出人类生活中用来描述数量关系的工具范围。作为人类认识和改变世界的利器，数学不只是提供关于事物量化特征的描述，更是关于世界本身及其运行轨迹的定量刻画。借助数学方程式，人类不但可以知道事物的现在，还能倒推过去，预知未来。在宏观物理学中，能表达为数学方程式的物理现象，才算最后得到了解释。而物理方程式一旦通过实验证明，不但足以证明所表达的理论解释是成立的，而且在方程式的定义域里，同已知现象获得解释相伴随的，是未知现象被提前揭示，剩下的问题只是何时被观察到。不只解释过去或现在，更能预见未来，这是数学在当代人类认识世界过程中发挥的最有价值作用。
猜想的成果。顶级数学家如印度的扎马努金，在其短暂的37年生命中，据说于梦乡里，获知3900个数学方程式，其中有日后被发现可用于描述黑洞的公式，而当时黑洞还完全处在人类认知的“黑洞”中，根本无人知晓。这是否意味着，有机智能可以在对事物是否存在毫不知情的情况下，完全凭未知的思考过程或干脆未经思考的直觉或灵感，预先知道该事物数学结构的存在？
面对如此比巧合还巧合的事实，让人不得不提问：有机智能对数学的敏感与无机智能靠算法运行，两者之间到底有何关联？有机智能和无机智能以及一切智能的相通之处，是否就在数学本身？这种不无神秘的数学关系是否就为天道的存在形态？难道有机智能是在为无机智能寻找以算法的过程中，于无意中接近了那个“不可道”的天道？有机智能使用的“十进制”与无机智能采用的“二进制”，就接近“天道”而言，两者之间是否存在某种优劣之分？中国易经八卦采用类似“二进制”的阴阳两爻，是否冥冥之中另有定数？
如此这般的“天问”扩展开来，可以藉由数学与物理的关系，不断推演，从另一方向，切入数学与智能一般及其背后“天道”的关系。
在物理领域中，数学方程式到底是一种纯数学的存在，还是物理存在的数学表达？人类认识数学方程式到底是作为对纯数学的认识，还是作为对物理现象的“未卜先知”？数学方程式与物理现象到底谁先谁后？物理现象有起点终点，描述物理现象的数学方程式却没有起点终点，先于或久于物理现象存在的数学方程式的意义又是什么？是否只要数学方程式存在，物理现象，即使尚未存在，最终也会存在？要是果真这样，那么世界上所有能用数学方程式表达的物理现象不都可以归入“预定论”范畴？也就是说，可以通过算法来解决的问题，会因为算法中方程式的存在而注定会存在吗？如此先于许多事物存在又久于事物存在甚至永恒存在的数学关系和数学方程式，是否就是凌驾于一切事物之上，并产生一切事物的天道？有机智能藉以诞生的算法，是否就是天道的直接呈现，所谓“道成肉身”？在算法中呈现的天道是“常道”吗？如果不是，其与“常道”又是什么关系？如此等等，永无止境。
无论无机智能能否胜出，无机智能的诞生及其局部取胜有机智能，已经足够表明，智能领域的宇宙演化刚刚完成了一个重大的阶段性跨越。
宇宙不拥有意志，自然智慧主要通过生物进化及其条件来体现。发展到生命体尤其是人类这个阶段，有机智能达到顶峰，其典型表现就是个体理性。在基因变化和生活实践的双重作用下，个人变得越来越聪明，进而带动人类作为物种的智能进化。就此而论，有机智能本质上属于个体智能，物种整体智能的提高有赖于个体智能的积累。所谓“站在巨人的肩上”本来指的是知识积累意义上的个体与整体关系，现在可以用来指称智能演进意义上的个体与整体关系，不过两者的关系应该是倒过来的，“巨人站在每一个个人的肩上”，而理解这一点的关键索引是前面提及的有机智能的不确定性。
随着无机智能的诞生，标准化生产导致智能机器人的个体差异趋于无限小，至少不再具有智能演进的意义。区别不同智能机器人的是型号，不是同一型号机器人的个性。随着个性差异的消失，个体与整体的差异也逐渐失去意义。在人类群体中，个人聪明与团队智慧不是一回事，团队智商低下，众醉独醒的个人只会“聪明反被聪明误”。但对智能机器人来说，在功能相同和技术相同的情况下，个体的智能水平就是整体的智能水平，而且，技术级别较低的智能机器人不可能表现优于技术级别较高的机器人。“泯然众人”成为普遍原则，不确定和意外发现之路被彻底堵上。这是否意味着，一旦独立于有机智能，无机智能还要继续进化，只有直线进化的“华山一条路”？
于是，最后的问题出现了：谁规划了这条直线？是天道或自然规律借助算法，从海量数据中直接呈现？无机智能最终会利用算法设计算法，实现算法的自我再生产，进而实现无机智能的自我进化？这个算法悖论是否比理性悖论更难以破解甚至理解？
（三）“零增长”是可能的吗？
如果霍金关于人工智能的担忧不幸成为现实，而且人工智能不再沿着人类意志的轨道发展，人类会容忍无机智能自行其是，任其坐大吗？人类有愿望和能力加以干预，直至中止人工智能开发甚至毁了有“独立”倾向的智能机器人吗？换言之，人类真会有愿望乃至能力，阻止人工智能取自己而代之吗？
要回答这个问题，可以先看看人类自身发展的历史和现状：
从历史轨迹来看，人类社会的发展大致有三种图式，不发展，循环和直线发展。
不发展的国家很多，其中有些在外部刺激下，发展了一段，甚至一度达到较高水平，但不幸又重陷停滞状态，所谓“中等收入陷阱”只是其理论说法。循环模式的代表是传统中国，在治乱轮替中改朝换代，长期原地踏步，直到近现代，才借助外来刺激，通过内部奋起，开创一种新的发展模式。直线发展以西方国家为主，其观念发动机来自基督教“千禧年”概念。这种向着神所指定的终极世界进化的发展图式，在科学技术和市场经济的支持下，带动人类最近数百年的高歌猛进，至今未见放缓，并在发展的同时，带来一系列日趋严重的问题，从经济、社会、文化、环境到人工智能可能的威胁。
有鉴于在直线发展模式的驱动下，西方文明有可能“裹挟”人类走上不归路，上世纪70年代西方有一群志同道合的知识分子，组建了一个学派，叫“罗马俱乐部”，喊出了惊世骇俗的口号，要求实现GDP“零增长”，为的是把未来命运掌控在人类自己的手里，而不要盲目发展，让问题越积越多，导致人类最后灭亡。
这个主张一度成为社会思潮，引发广泛争议。风平浪静之后，人们发现，排除掉那些因为发展不起来，无奈之下，只好接受“零增长”甚至负增长的国家，没有一个国家主动采纳罗马俱乐部的激进主张。靠悬崖勒马式的中止发展被证明是不现实的，面对哪怕再多的问题，各国政府无一放弃经济增长的追求，甚至至今连停止碳排放量增加的要求，都未能取得全球共识。
从国际社会在事关人类整体利益上毫无作为的历史表现来看，要求人类在面临人工智能发展失控时，采取统一行动，制止无条件、无约束地发展人工智能技术，恐怕只会落下与罗马俱乐部激进主张“零增长”一样下场。在国与国之间无序竞争持续不断、全球化退潮的背景下，要任何一个有实力发展人工智能技术的国家主动停止研发，是不可能的。历史早已证明并将继续证明，在个人命运主要取决于所在国家的情况下，人类命运尚不具备足够的道义说服力和利益协调力。
于是，又一个悖论出现了，不过与前面述及的悖论不同，这是一个更具有政治意义的、当下还纯属虚构的悖论：拥有自我意识而且必然采取自我中心主义态度的人类，却在被智能机器人取代的威胁面前，仅仅因为相互之间的恶性竞争，而集体无所作为，以致最后错失自我保存的机会。孔子主张，“知其不可为而为之”，本意是倡导人生当有所作为，但用在这里似乎只是说明，人类明知道应该收手，却共同陷入“囚徒困境”，你不停止研发，我也不停止，还要加大开发力度。对于人工智能这样具有重大战略价值的技术创新和产业发展，世界主要国家都不敢丢失先手。至于人类整体最后的命运，天塌下来自有高个子顶着，没有一个国家会予以考虑，更不用说采取中止研发这一自杀式行动。法国皇帝路易十五的名言“我死后哪怕洪水滔天”，未来有可能出现新版本，“我死后哪怕奇点到来”。
只要人类仍以国家和民族的形式相互竞争，就没有走出盲目受天道驱使的范畴，人类仍然是一个自在的物种，而不是自为的物种。人类身不由己地完成“天道”的使命，完成智能从有机向无机的过渡，或许真是不可摆脱的宿命。
霍金之忧，忧的不是人工智能本身，而是奇点到来，人类犹在纠结于利益，因此错失扳正命运轨道最后一个道岔的机会。
