第八章 假如医学家成为上帝(4)

  

它的命题与《伙伴》是一致的,我们可以爱机器人吗?有一家计算机公司做出了一个决定:制作一个具有情感的机器人。他的名字叫大卫(哈利·约尔·奥斯曼)——第一个被输入情感程序的机器男孩,作为一个试验品被该公司的员工(山姆·罗伯兹)和他的妻子(弗朗西斯·欧康娜)收养。他们自己的儿子因病被冷冻起来,直到能治疗这种病的方法出现。尽管大卫逐渐溶入这个家庭,但是,一系列意想不到的情况使得大卫对他现在的生活越来越无法忍受。人类与机器都无法接受他,大卫开始了自己的旅行,寻找真正属于自己的地方……

观众一定会问,人类对机器人有什么责任?影片中电子公司的老板并不满足于已经开发出来的智慧型机器人,而要进一步开发出一个会爱的机器人,一个有心智和情感的机器人,这种机器人拥有前所未有的潜意识,充满暗喻、直觉和自发性推理力的内心世界。当这个提议被提出的时候就遭到质疑。为什么?那就是”斯皮尔伯格问题“:如果一个机器人能真的去爱一个人,那么这个人对机器人又有什么责任呢?

我们面临着一个双重的纠结,一是我们如何去面对一个自立的机器人世界?包括如何去爱机器人?(解放机器人,走出robot歧视的魔咒),二是我们应该如何去阻止机器人的僭越?(解放自己,走出robot依赖和功能退废),在今天的现实境遇中,似乎后者更为迫切。

玛丽·雪莱的忠告是人类别太自信,别一不小心就去充当上帝,而思想家芒福德给了我们另一个忠告。人类要在“人-机委托”的游戏中保持主体性,别太相信机器人,更不能过度委托。因为“计算机控制的自动化所带来的最严重的威胁还不仅仅是在诊疗过程中挤走了人,而是他替代了人的心灵,并破坏了人类对自己做出独立判断能力的信心——即任何判断都不敢与这个系统相左,也不敢超越这个系统之外。”“使用机器以扩展人类的能力和使用机器来收缩、取消或代替人类的功能,期间有着很大的差异,在第一种情形中,人们能够行使本身的权威,而在第二种情形中,机器接管了控制权,人类成为一个超级傀儡,所以,问题并不是毁灭一切机器,而是要重新恢复和认定人类的控制权。”

 

《白色巨塔:电影中的生死、疾苦与救疗》读书网在线试读连载完毕,更多精彩,请参见原书。呼吁您购买正版图书。

下一章

读书导航