Google 版《黑镜》真实上演,全面蒐集数据改变人类行为

2020-06-07 9367
Google 版《黑镜》真实上演,全面蒐集数据改变人类行为

我们都知道生活中常使用的 Google、Facebook 这类网路服务,会无时无刻蒐集你我的资料,但如果这些数据会进一步影响你的思绪、行为,那幺是不是就有如探讨人性黑暗层面与科技冲击的英国影集《黑镜》的场景,令人感到恐惧不安呢?

最近 Google 一支内部影片《自私的帐本》(The Selfish Ledger)外流,当中描述透过个人不断累积的数据资料,进一步影响用户目标、思绪、行为,甚至可以藉由引导群体行为的改变,来改善气候、贫困、疾病这类棘手的全球问题,而这种使用数据的手法,真的会是我们的未来吗?

记录个人资讯的「数据帐本」

先前闹得沸沸扬扬的剑桥分析滥用个资事件,以及将于 5 月生效的欧盟通用资料保护协议(GDPR),都让握有大量用户数据的公司,在处理攸关隐私的数据、资料时更加谨慎小心。

最近一支名为《自私的帐本》(The Selfish Ledger)的 Google 内部影片外流,影片是 2016 年由 Google X 实验室(Google X)主管 Nick Foster 製作,影片标题是致敬英国演化生物学家理查‧道金斯 1976 年的知名作品《自私的基因》,书中描述一种演化的想像,认为物种的进化是为了提升「整体适应度」,将自己好的基因尽可能多传给整个群体,目的是要让整个群体朝进化稳定策略(evolutionarily stable strategy)前进。

Google 内部外流影片《自私的帐本》(The Selfish Ledger)。

这支将近 9 分钟长的影片中,先由生物学家拉马克(Jean-Baptiste Lamarck)的演化理论谈起,概念是生物会将经过「内部编码」的基因传给下一代,藉此来形塑生理特徵。影片描述,当今大众使用手机,其实就是一个不断改变自我的过程,这些行为数据会累积成一「帐本」,一旦这种档案被建立,数据就能改变一个人的行为,甚至还能在用户之间转移,这个概念就跟上面提到的演化理论相呼应。

以完成目标为导向,连缺漏的数据也能补

回想一下,我们平常用手机的状况,任何适用的习惯都会变成数据纪录,从数据就能看出一个人的行为、决定、喜好之间的关联,影片观点认为,记录我们个人资讯的「数据帐本」,就像是「拉马克式表观基因组」(Lamarckian epigenome),是一个关于我们自己、不断演化的一种呈现方式。

如果数据不仅单纯记录,而是给予一个明确的目标,建立丰富的数据帐本,是不是有可能透过影响群体,进一步改变世界呢?

例如,假使你的目标是要减肥,系统一旦侦测到你用手机叫外送,就会优先推荐你购买健康食物,让你吃得更健康、保护环境、支援地区小店等,来反映 Google 本身的价值;或是用手机叫车时,也能透过数据引导用户,尝试更环保的交通方式。

Google 版《黑镜》真实上演,全面蒐集数据改变人类行为

系统在叫车时推荐共乘服务 Uber Pool、叫外卖时推荐在地小农的香蕉。

不过比较可怕的是,即便系统缺少关键数据,也能透过影响用户行为来填补,例如延续刚刚的减重目标,系统一直没能掌握体重资料,为了填补这个空白,数据帐本会开始搜寻可以测量这项数据的装置,像是数据帐本就会一直推荐你去购买体重计,甚至透过 3D 列印,直接做一台体重计给用户,藉此取得体重数据,增加对用户的理解。

Google 版《黑镜》真实上演,全面蒐集数据改变人类行为

缺少体重资料,数据帐本就会推荐用户去购买体重计。

数据累积,就像是不断演化的基因

这套概念中,数据帐本是「目标导向」,影片想像的未来,数据帐本能不断学习、填补空白知识,从决策建议、行为改变都会由受目标驱动的数据帐本执行。

製作影片的 Nick Foster 认为,「藉由代代相传的用户数据,新用户可从上一代行为和决策受益」,因此这套系统就像不断演化的基因,藉由挖掘人类行为模式数据,像基因组一样排序,就能对未来的行为做出更準确的预测,甚至理解人类面对抑郁、健康、贫困背后的原因,再透过影响用户的日常行为,让所有人类的行为模式更加完善。Google 版《黑镜》真实上演,全面蒐集数据改变人类行为

製作影片的 Nick Foster 认为,「藉由代代相传的用户数据,新用户可以从上一代行为和决策受益」。

能做到这样的未来,是因为 Google 拥有接收庞大用户资料的权限,影片没有对隐私问题多着墨,当数据帐本餵养的胃口越来越大,无形之中将影响你我的决策、行为、思绪,宛如影集《黑镜》的场景,这才是让人看了这部影片后,感到恐惧、不适的原因。

这样的概念真的会实现吗?Google 发言人表示:

从 Google 专利,看见数据帐本影子

话虽如此,但 Google 现在提供的服务,某种程度也在左右你我的决策,像是 Google Maps、Google Assistant、Gmail,都是透过分析用户数据,根据所在位置、过往喜好,推荐用户路线、餐厅、分类信件等。

另外,Google 在 2015 年申请的一项专利也很有「自私的帐本」(The Selfish Ledger)的影子,这款专利名称为「检测及纠正用户行为的潜在错误」,这套系统会根据 Google 所掌握的用户资讯,纠正用户的行为。例如,你正在开车前往参加一场晚宴,系统已从 Gmail 掌握活动时间、地点,一旦行径方向错误,手机就会发通知提醒用户,在你完全没有开导航、Google Maps 的情况下,就能修正用户行为。

儘管 Google 强调这支影片跟任何旗下产品都无关,但从概念也不难窥见 Google 使用数据的野心,这种让人感到不安、被数据影响行为决策的未来,儘管不会现在就实现,但也提供了人们对照,提醒数据使用确实存在的黑暗面。

这部影片扁平的旁白配音、重複循环的钢琴伴奏配音,加上冷色调的画面,让人有如看《黑镜》番外篇,成功营造一股让观众不安的气氛,不仅资讯让人感到恐惧,影片拍摄手法也成功跟主题相扣,难怪 Google 发言人会说:「我们知道影片让人很不安,但这正是影片的目的。」



上一篇:
下一篇:

相关推荐