机器人程序大军(1)

HBGary Federal 是一个与美国政府合作的安全技术公司,2011 年遭到黑客攻击,人们因此发现美国政府正打算制造更大规模的“人工草皮”。华盛顿当局似乎已经为“人员管理”软件的研究进行了招标,这类软件可以帮助“阿斯特罗草皮制造商”创立社交媒体机器人程序“大军”,用于发布政府用户的评论。

这些发布虚假评论的人极富经验, 而且很狡诈。HBGary Federal 公司的阿斯特罗草皮软件可以让新账户“老化”,使其看起来有一定历史,不仅可以自动编造出背景故事,还能形成某种网络生活模式,完善虚假的朋友网络。因此在网络世界中,人们很难辨别出一个真正的人和一个机器人或某个有虚假身份的人有什么区别。事实上,该程序可以创造出一个“真人”需要的一切—姓名、电子邮箱地址、网络账号等。如果你调查这类账户,你会发现它们就像是某个有多年网龄的人创建的账户。

大概是因为黑客攻击事件,HBGary Federal 公司再也不会与美国政府合作了。尽管如此,我们能够保证美国联邦政府不会与其他拥有类似技术的公司合作吗?

当这些机器人拥有越来越多“和人类一样”的习惯后,它们愚弄我们的能力也就更强了。一些机器人甚至可以对真实事件“做出反应”,它们和人一样睡觉、起床,它们可以发送网络消息,做你希望它们做的事情。你不用绞尽脑汁去想那些公司、机构甚至是个人是如何利用该技术进行在线“聊天”的。“我现在正在非洲旅行!这个尼康相机的效果太好了!”咔嗒一声,你拍下了非洲热带草原。“戴维·卡梅伦在竞选辩论中表现很好”,就在电视直播的竞选辩论结束后,“你”发布了这么一条评论。

问题在于,事态有可能因此恶化。最近,脸谱网的报告指出7% 的海外用户都是骗子,也就是说在该社交网站上有8 309 万个潜在的机器人。虽然其中不乏真实存在的人—他们因为对数据的搜集和售卖心存警惕,所以选择使用匿名或化名的脸谱网账号。他们并非故意误导人们的造假者—但在他们当中,有多少人喜欢那些机器人程序,又有多少人是为了金钱利益而发帖的?

他们想要给你看什么东西?是某种特殊的产品、某个政党,还是某种意识形态?

他们希望你的决策向哪个方向倾斜?

在这个时代,我们自行搜寻信息的机会越来越多,因而我们需要非常慎重地对待上文中提到的那些状况。

假设为了做出更明智的决策,我们考虑将全新的网络世界(一个博客、帖子和搜索的世界)的价值最大化。这时,我们必须保证网络上的信息是可信赖的。

因为传统真理守护者的缺失, 我们肩负的责任也就更大了——需要确定自己说的话是真实且可信的。

我并没有低估由此产生的挑战。

读书导航