图灵测试的两面性
不管诱因是什么，图灵是第一个开始证明比特可以有自己生命，而不需要人类干预的人。从人工智能（AI）到蜂群思维，这种思想后来被披上了各种各样的外衣，许多硅谷的创业公司更是以此来标榜自己。
但在我看来，几代科学家对图灵测试的解读都太蹩脚。人们对图灵测试的通常解释是：它能让机器获得像人一样的意识，最后，当机器诱使你以为它拥有了意识的时候，如果你还说机器不可能拥有意识，那就是你的不对了。
但我认为图灵测试所揭示的真正道理（也许图灵当年并没有想到这一层），在于说明机器拥有的智能是相对层面上的，是从人类的角度上说的。
图灵早逝的一大遗憾，就是他没能活得更久，从而能更深入地思考图灵测试。历史学家乔治?戴森（George Dyson）认为，图灵可能是个反网络极权主义者。比如1939年，他在一片纸上写了一段题为“序数基础上的逻辑体系”（Systems of Logic Based on Ordinals）的话：“我们都在尽力靠我们的智慧而不是直觉来生活，但我们忽略了生活到底需要多少智慧，只是固执地以为智慧可以无限获得。”也就是说，他觉得即便有了计算云，人们也不能幻想智慧是无限的，所以直觉是不可能退化的。
1950年，图灵在关于图灵测试的论文中还有这样一段不同寻常的话：“在尝试创造这种机器的时候，我们不能犯下不敬的罪名，剥夺上帝创造灵魂的力量，正如我们不能决定自己孩子的生死。因为在这两种情况下，都是上帝，而不是我们，为上帝所创造的灵魂提供了居所。”
用人工智能来思考一切，是本书要批判的核心思想。如果机器能有意识，那么计算云将会成为比人脑更聪明、容量更大的智慧体。如果你相信这一点，那你就成了上帝身边的天使，只是在为这片“云”贡献着自己的力量。
但图灵测试还有它的另一面。你无法说明到底是机器确实比人更聪明，还是人的智商降低了，所以机器才显得更聪明。如果你能和一个人工智能程序虚拟出来的人对话，你能告诉我：你到底把你对人的认识降低到了什么地步，才让你和机器之间的对话得以继续的？
人们为了让机器看起来一直比人聪明，会主动降低自己的智商。在这次金融危机爆发之前，银行家们恐怕都以为智能算法可以在恶性贷款发放之前，发现信贷中的风险。我们要求老师根据标准化考试的要求来教学，从而让学生的算法课成绩看起来漂亮点儿。我们不断地证明着一点：我们可以无限地降低标准，从而让信息技术看上去很美。机器里每一条信息含义都是模糊不清的。
同样的模糊状态贯穿于过去学术界里那些不靠谱的人工智能项目中，而它们在被重新包装之后，成为了当下的大众文化。搜索引擎真的明白你想找什么吗？或者只是你在陪着它玩，降低了你自己的标准来使它显得更智能？由于大家认为当意义重大的新技术提供给人类的时候，人的观念也会被改变，因此要想把机器智能当做真的智慧，人首先要减少对现实的依赖。
许多人工智能的鼓吹者试图让机器完成理解自然语言等任务，但在经历了长期的实验失败之后，他们最终转而青睐蜂群思维。而蜂群思维之所以能成功，正是因为它的背后有千千万万真实的人在支持着它的运作。
以维基百科为例，我把它称做运行在Oracle上的幻影，因为它上面的文字都禁止打上个人的烙印，从而赋予了文字超越个人的正确性。传统的神学书籍采用的正是这种手段，也因此导致了同样的结果。
这也是为什么我会认为网络极权主义文化是一种新的宗教，它已经具有了相当强的象征意义，因为它在寻求一种新的来世。雷?库兹韦尔希望遍布全球的计算云能囊括所有人的智慧，他觉得那样我们就能在虚拟现实中永生——我觉得他的想法太奇怪了。当我和朋友们做出第一台虚拟现实机器的时候，只是想让世界变得更有创意、更有表现力、更迷人、更有趣，而不是相反。
现在的硅谷、华尔街以及其他权力中心都沉迷于对比特的崇拜，各种“好点子”层出不穷。这个点子可以是维基百科，也可以是能和人对话的虚拟人，但从根本上讲，我们只是在一遍又一遍地重复着图灵的错误。
以国际象棋为例
现在什么都时髦“云”，经济云、科学云、文化云……但这些东西真比过去靠人的理解掌握得更好么？当然不是，因为只有有了人的理解力，“云”上的东西才能存在。
各种碎片化的文化急迫地期待着未来技术的胜利，觉得它会让奇点和其他梦想成真。图灵测试的确已经有了若干成功的先例，机器也有了人性。国际象棋就是一例。
国际象棋罕见地结合了几大素质：规则易懂，但很难下好，最重要的是国际象棋有无穷的变化。人类选手的水平越来越高，但没有谁敢说自己的水平是最高的，无人能超越。
计算机和国际象棋的起源是相同的，它们都是作为战争工具而产生的。国际象棋源自对战争的模拟，它可以称做脑力武术。其实国际象棋的设计理念可以追溯到更早的时候——也就是当我们的祖先还在大自然中摸索，和别的族群竞争的时代。
同样的，现代计算机是被设计用来引导导弹、破译军事密码的。暴力是驱动世界进步的动力，而国际象棋和计算机都是暴力的产物，并最终被净化、抽象出来，成为人类文明的一部分。两者都十分明显地体现出很强的竞争性，所以当计算机科学和国际象棋结合的时候，自然碰撞出了火花。
计算机科学家之所以对国际象棋非常感兴趣，正是因为他们的国际象棋下得不好。从我们技术人士的角度上讲，即使是最有成就的专家，要想把国际象棋的程序编好也非常非常困难。就算电脑的性能再好，我们自己也明白：我们无法编出最完美的国际象棋程序。
