科技是放大镜:放大了善与恶

  在这个端午,重新看了一遍黑镜第三季(black mirror - season 3),一如既往,看完之后都是无尽的嘘唏和感叹。刚好在前两天,也看到了DDIA(designing data-intensive applications)的最后一章节,也是讲数据(data)的潜在的危害,比如对隐私的窥视;对偏见、歧视的加深。

  黑镜这个神剧系列,反应了科技的滥用对人来带来的困扰与危害。当然,问题可能本身就是存在的,但科技放大了这些问题。科技是一把双刃剑,当我们在拥抱科技带来的便利时,我们也应该重视科技带来的问题。技术是无罪的,但发明或者提供这个技术的人是需要负责任的,如果明知这个技术容易被人利用作恶,那么提供这个技术就是有罪的。况且,很多公司即使知道技术有害,也还是会用来谋利,比如屡禁不绝的医疗广告。

  个人觉得,黑镜第三季中最精彩的是第一集与最后一集。

Nosedive

  Nosedive(急转直下)故事剧情:女主Lacie (Bryce Dallas Howard 饰,刚好是这几天上映的《侏罗纪世界2》中女主角)生活在一个十分看重个人评分的世界之中,在这个世界里,你可以给你遇到的所有人打分,自身分数越高的人,给他人打分的权重就越高。每个人的分数决定了他们能够过上怎样的生活。

  剧集里面的评分系统和PageRank算法很像:每个人可以给别人打分,自己的分数来自其他人评分的加权平均,个人分数越高,那么给别人评分的权重越大。所以为了提高自己的分数,最快捷的办法就是让高分的人给自己打高分。

  

  这个评分代表了一切,代表了信用、阶级、个人素质、社会地位。拥有较高的分数那么就会有更低的首付、更低的贷款利率、更便捷优质的服务;而分数较低的人会受到各种各样的歧视与不公平对待。分数划分出了阶级,且固化了阶级。不管是在活生生的人类,还是冷冰冰的机器系统看来,每个个体都幻化成了一个分数,分数成为了唯一的评判标准。这扭曲了人性,为了达到别人的好评,虚伪、假笑、悲哀:

  

  正如DDIA中描述的,这种分数导致的差别化对待,很容易增强偏见(reinforcing existing biases):一个评分良好的人,可能有由于突发事故,导致评分下降,这个时候,数据系统和其他人就会不公平对待,给予更差的服务和评分,导致恶性循环。剧集中女主就是这个例子,其他人如女主的同事(Chester)也是这样。

  这样的评分系统现实中存在吗,当然是存在的,比如银行征信、比如蚂蚁芝麻信用。但这些评价体系,普通的个人只是被评分的对象,我们只能相信评价机构(银行、大公司)是公正公平客观的。但是也存在个体之间相互评价的情况,如淘宝、滴滴。对于淘宝或者滴滴快车,买家是消费者,卖家是服务者,这并不是对等的,买家对卖家的影响很大,卖家对买家的影响却很小,因此才是出现卖家威胁差评买家的情况,当然对于的也有职业差评师。

  滴滴顺风车或者闲鱼,不管是卖家还是买家,都会受到评分的影响。都会被贴上各种标签,这种标签对隐私的侵犯在不久前空姐顺风车遇害事件一经得到了体现,及时个性化标签已经下线,但评分依然存在,虽然目前看起来没有什么坏处,但是如果有一天这种点对点(P2P)的评价体系得到普及,也许就会出现剧中的情况。

  权利越大,责任越大,如剧中的机场保安员,一个小小的举措就让女主的分数急剧下降,跌入了恶性循环的深渊。作为一名IT从业人员,我们的代码、算法、系统、应用、服务也许也会对其他人产生重大影响,计算机系统是无意识的,但人应该有温度。

Hated in the Nation

  

  Hated in the Nation(为国所恨)剧情:社交媒体上被打上 #DeathTo  标签的人,将会被人工蜜蜂攻击致死。于是这变成了杀戮的狂欢,对自己讨厌的人(或者仅仅是跟风)说“去死吧”,充当刽子手。殊不知,最终受到惩罚的是这些网络暴民。

  互联网时代,没有人知道你是一条狗。

  

  这句上世纪的金句,是网民在网络上施暴的一个重要原因,既然干了坏事也不用付任何责任,那作恶就更加肆无忌惮。网络的隐秘性放大了人性的恶,在阳光下彬彬有礼的人在网上却彻底成为了残暴、无脑的乌合之众。剧中大boss(Garrett)精心设计的这套报复计划的初衷,就是因为其同事 Tess(或者女友)因为网络暴力而几乎神经衰弱、甚至自残。

  另一方面,当今的互联网,不仅能知道你是一条狗,还知道你是一条什么品种的狗,什么性取向的狗,吃什么狗粮的狗。个人的隐私信息在线上、线下都在被收集、贩卖、利用,其实大家都在裸奔。隐私的收集,也许初衷并没有恶意,但是监管者、公司却没有能力保护好这些隐私,不管是国内国外,用户数据的泄漏都时有发生。当然,更多的时候,互联网收集用户的数据,本来就是为了用这些数据谋利。正如DDIA所说:

If the service is funded through advertising, the advertisers are the actual customers, and the users’ interests take second place.

  除了互联网,这些年也搞出来一个物联网,提倡一切都联网。不仅仅是电脑、手机、还有摄像头、牙刷、手表、任何家用电气。

  

  当一个技术越普遍,被别有用心的人利用之后,危害越大。比如无处不在的摄像头,比如前段时间的360水滴摄像头事件,还有通过穿配设备推测出密码、啪啪姿势的例子。这些网络接入设备一来安全性很差,很容易被攻破,即使生产厂家觉得已经固若金汤,但道高一尺魔高一丈,正如剧中的电子蜜蜂,Project Leader Rasmus 信心满满的说“绝对不会出问题”,但还是被人控制了。

  况且,这些设备很可能有后门,剧中的蜜蜂就是这样。两位警官去Granular公司的时候还在谈论:互联网上的人们认为政府利用这些人造蜜蜂监控公民,简直是精神分裂,殊不知每一个小小的蜜蜂都是一个监视器。

  黑暗中,有一双眼睛在注视着你。

 

posted @ 2018-06-23 16:25  xybaby  阅读(1025)  评论(1编辑  收藏  举报