标签:表达 一个 科幻 掌握 出现 劳动力 大数 趣味 保险公司
今天要讨论的议题有两个,一个是“自由,数据霸权”,另一个是“平等,谁该拥有数据”。
听到赫拉利的两个议题完全不知道他在说什么,没关系我们一点一点的把话说开。
赫拉利在这本书中不断的强调,我们正处在一个人类文明的转折点上,我们现在所遇到的问题是过去几千年来从未遇到过的。
在之前任何技术的进步,都是对于人类能力的一种延伸。不管是纺织机、铁路还是电视,带给我们的是效率、方便以及力量。所以我们感受到的进步虽然变化非常的剧烈,但是这种变化始终还是缓慢的,渐进的并且方向明晰的。
但是现在生物科技和信息技术正在突破我们身体的边界,他开始参与到重塑我们的意识,参与到改变整个人类的共识当中。这是我们过去几千年来从未遇到过的问题。
民主不是理性决策
我们今天的讨论就从自由说起。
每个人的自由,是自由主义最最看重的。在政治上,相信选民能做出最好的选择,所以我们赞成民主选举;在经济上,相信顾客永远是对的,所以我们拥抱自由市场经济。在个人方面,我们都愿意听从自己内心的召唤,只要不侵犯他人就行,所以自由主义把个人的自由奉若神明。
这样是对的吗?那当然了。所以英国要做出决定是否脱欧的时候,卡梅隆并不是去征询英国女王或者是牛津大学的意见,而是举行了全民公投。政治上的权威来自于每一个选民的自由意志。
但是事后我们却发现,这些所谓的公投或者选举,其实诉诸的永远都是人们的感觉,而根本就谈不上什么理性。
因为如果民主要的是理性决策的话,就根本不应该让所有人都有平等的投票权。在这个世界上,分明就是有一部分人拥有更高深的学识并且更具理性,特别是我们讲到特定的政治和经济政策的时候更是如此,这是毋庸置疑的。
所以道金斯曾经就提出抗议,说通过全民公投来决定英国是否脱欧的性质就像是让所有人投票决定爱因斯坦的方程对不对一样。就像是让飞机上所有乘客来投票说飞机应该在哪条跑到降落一样。这样一说是不是觉得很荒谬?
但是选举或者公投的重点并不是理性决策,而是在于每个人都能表达自己的感觉,反映出每个人的自由意志,这才是民主权威的来源。所以当重点是感受,而不是理性决策的时候,那么无论是爱因斯坦还是道金斯和所有人都是一样的。
无法反抗的算法权威
为什么要说这些呢?因为对于感受,对于所谓自由意志的依赖,就是自由民主的致命弱点。一旦有外部力量能够攻破人们的心,并且操纵它。那么所谓的民主政治不过就是一场情感丰沛的木偶戏了。
而我们很快就要到这个时候了。权威要从我们人类手上转移到数据的手上。技术革命将建立起大数据算法的权威,同时完全推翻个人自由的信念。
就正如我们之前所说的,“感受”的本质不是直觉,不是灵感而就是算法。很快,计算机的算法就要给我们带来比自己的感觉更好的建议了。
在现在的医学领域就已经表现的已经非常明显了,我们现在去医院接受治疗,很多时候决定并不取决于自己是否觉得自己健康。而是根据检查结果,以此医生做出诊断告诉我们应该接受什么样的治疗。
我们对于这部分的主导权其实早就已经让渡出去了。那再过几十年,生物传感器将对我们进行24小时的数据检测,看着我们体内的各种病毒和癌细胞蠢蠢欲动,紧接着针对每个人的体制、NDA和性格,量身推荐给我们最合适的治疗方案和饮食方案。这样一来,我们除了听从他的建议之外还有什么别的选择吗?那你说我就是不听,我就是要反抗。
举个例子,像是抽烟这件事情。现在无非就是告诉我们抽烟有害健康,把这行字印在烟盒上。那要不要继续抽还是我们自己在决定,是不是愿意用自己的身体承担这个风险。但是在未来,这种任性与反抗很有可能持续不下去了。
某一天,你的生物传感器明确的告诉你,在你的肺上检测到了17个癌细胞,如果你继续抽的话,那好,他会把这个数据发给你的父母、你的妻子和你的孩子。如果你还是不听劝,那这些数据会发给你的公司领导,你对自己的身体都不负责,那你的工作表现可能就会受到怀疑。
更糟糕的是你的保险公司也会因此提升你的保费,甚至你的医疗保险都会被取消。当我们要承担如此巨大的社会代价的时候,我们还能向现在一样的固执己见吗?
那你说我不装这些生物传感器行不行呢?当然不行,因为以后的所有服务都要以此为依据,就像是现在你担心辐射不愿意照X光,那医院就没办法给你看病一样。甚至说,在未来这些数据就像是我们现在的身份证一样,如果我们不共享这些信息,我们在未来社会可能就寸步难行。
我们不再是自己人生大戏的主角
在医疗领域发生的事情很快就会延伸到越来越多的领域。更进一步,当外部数据处理系统进入了我们的身体,开始不断的了解我们,当他比我们自己更加的了解我们的时候会如何呢?
赫拉利在书中就披露,自己是到了21岁才终于走出了多年的自我否定,意识到自己是同性恋。而其实很多的同性恋者在整个青少年时期都无法确定自己的性取向。但是以后就不会这样了,当我们看到一些性感的男女照片的时候,算法会追踪我们的眼球移动,血压和大脑的活动,短短的几分钟,就能得出结果。
如果早些年有这样的程序,赫拉利坦言自己就不用受这么多年的挫折,可以早早的意识并且接受自己是同性恋的事实。
现在我们确实还可以隐藏自己的偏好,我们可以躲避亲人、朋友甚至躲避自己,但是在未来我们将躲不过腾讯和阿里巴巴。我们会永远都在线,并且所有的在线数据,都将被算法监控和分析。
最直接的结果就是他们可以把数据告诉可口可乐公司,如果要卖饮料给我们,出现在我们眼前的广告模特应该是拥有8块腹肌的猛男呢?还是身材火辣的美女呢?我们的一切他们都知道,而我们自己对眼前看到的这背后的一切都一无所知。
我们把自己手上的权利不断的让渡给这些新的技术,以此换来便利。这已经是不争的事实了,而且我们对于他的依赖只会越来越强烈。
简单的回忆一下,最近不到20年的时间,全人类都已经把一件可以说非常重要的任务全部交给了谷歌、百度的搜索算法。“百度一下”已经完全代替了我们自己去搜索信息。我们越来越依赖百度,我真的不知道除了百度之外还有什么其他的搜索信息的途径。甚至可以说,如今世界的所谓真相,已经是由谷歌百度的搜索排名结果来定义了。
再举个例子,我们对于手机导航的依赖。才开始的时候,到了十字路口导航告诉我们左转,我们可能还会相信自己的直觉右转。结果一右转就遇到了堵车,耽误了重要的事情。下次再相信自己的直觉再次堵车,而相信导航就可以顺利的到达目的地。几次之后,我们就彻底的把路线的选择权让渡出去了。
那紧接着我们对于购物的选择、对于伴侣的选择,对于工作的选择,也是一样的:
* 算法可以告诉我,根据你现在的预算,你的驾驶能力,周边路况和趣味偏好,你就应该买这款车,这是通过极其复杂的数据分析得出的最好结果,你只需要接受就行。过去的广告业无论怎么抓住我的弱点向我推送商品,但是选择权始终还在我手里。但是在以后,广告无需说服我了,说服数据,说服算法就行。
* 算法还可以告诉我,根据对你多年来的观察,你上法学院或者芭蕾舞学校完全就是在浪费时间,而如果你去当一个心理学家或者一个水电工会干的非常出色,并且非常的快乐。
* 算法还可以告诉我小红虽然长得漂亮,但是性格与你非常的不匹配。小花虽然长得没有小红好看,但是你与她在一起,生活的满意程度更高。
你看,一旦人工智能比我们自己都了解自己,比我们自己更清楚应该选择从事什么职业,应该怎么处理人际关系,我们也越来越依靠他来为我们做决定,这让我们对于人生、对于生命的一些看法都会发生改变。
我们现在习惯把生命看成一连串的选择所构成的人生大戏,但是今后我们自己竟然不是这场大戏的主角了。
面对这样的情况,我们要怎么选?相信算法还是继续相信自己?如果相信自己,那么你就会误入歧途,与别人相比你的人生很有可能一片狼藉,但是如果你相信算法,那就将失去自由。
什么民主选举,自由市场这些机制都将失去意义。当权威转移到算法手中,我们的世界就不再是一个由我们自主做出正确选择的剧场了。整个世界就是一个数据流,我们每个人都是一套生化算法。至于我们人类在这个世界当中的任务,可能就是要打造一套无所不包的数据处理系统,并且贡献自己的数据,成为其中的一个小小芯片,装在一个大到没有人能够理解的系统当中,最终与他融为一体。
数字独裁
话说到这里,似乎已经说到了尽头。
如果说我们把自己与人工智能之间的博弈看作一场战争的话,那么绝对不会出现科幻片中的烈火浓烟、轰轰烈烈的末日景象。这场仗根本就没法打,因为这是一场没有防守线的战争,根本就没有我们发起反击的战场,我们自己手中的选择权都是我们自己主动的让渡出去的。真正的末日景象正是在我们一次又一次的点击当中悄悄而平凡的降临的。
在这个议题当中,赫拉利让我们一定要当心数字独裁的出现。
很多人害怕人工智能,是因为他们不相信人工智能会一直听话。然而,其实人工智能最可怕的地方正是因为他对于主人的绝对服从,绝不反抗。这话怎么说呢?
话说在1968年的3月16日。一群美国士兵深陷越南,进行了数月的游击战,最终情绪失控陷入疯狂,屠杀了美莱村大约400名平民。我们会想,如果进入越南的是机器人士兵的话,就一定不会出现这样严重的错误。
那我再与您说另外一个真实的事件,1995年7月。前波斯尼亚的塞尔维亚族部队,在斯雷布雷尼察镇屠杀了超过8000名穆斯林。这与我们刚才提到的美军情绪崩溃的屠杀可完全不一样,这是一次历时持久,组织严密的种族清洗行动。我们想想看,如果执行这次行动的是机器人部队,那么他绝不会因为同情、心内的反抗或者是单纯的疲劳而放过任何一个穆斯林儿童的性命。
我们想说的是,如果机器人的程序要让他有所克制、立意善良,那他一定比人类士兵做的好。但是如果代码就是要他冷酷无情,赶尽杀绝呢?这必然就是一场灾难。
机器人的真正问题并不在于他们自己的人工智能,而在于人类主人的愚蠢和残酷。如果说一个独裁者拥有了这样的机器人杀手,那不管他的命令多疯狂多无情,都会得到100%的执行。
赫拉利要提醒我们的不单单是机器杀手,还有那无所不在的生物传感器也被一个独裁者所用的话。我们常说头上三尺有神明,现在是真的有了,但是这个神是好是坏那就难说了。
在未来,一个独裁者很有可能会让所有公民都佩戴上生物手环,不仅可以监控他们的一言一行,还掌握他们的血压和大脑活动。一个国家政权将有史以来第一次真正知道每个公民的真实想法。
如果当你看到一张该国领导人的照片,而你的生物传感器发现你血压升高,杏仁核活动明显增加,你表现出了异常的愤怒,那么第二天一早你就有可能被抓进监狱。我想这一定不是我们乐于见到的。
再有,就算民主制度能够成功适应调整而生存下来,但是我们人民依然会遭受到新的压迫和歧视。比如说,现在就已经有越来越多的银行、企业运用算法来分析数据,做出决定。
当我向银行贷款的时候,我的申请很有可能是算法在处理,而不是人类在审核。算法分析我的资料和其他海量个人的统计数据,以此判定我是否可靠。一般来说,这件事儿算法来做一定比人类做得更好。但是问题在于,如果算法当中隐藏着某种不公平,我们根本就察觉不到。
如果银行拒绝给我贷款,我问“为什么不行?”银行会说“因为算法说不行”“为什么算法说不行?”“我怎么知道为什么?反正就是不行。我们听算法的,他说不行就不会给你贷款。”
如果说被歧视的是某个群体,不管是妇女还是黑人,他们都可以联合起来抗议群体所遭受到的歧视。但是算法歧视的可能就是我这个人,而且我自己根本不知道原因。可能是我的DNA,我过去的经历或者我的朋友圈上有些什么问题,算法不喜欢。就算我知道是为什么,我也找不到其他人与我一起大声抗议,没有人会遇到和我一样的歧视,只有我自己。
还有,我们可能会觉得在最高的权利阶层还会是人类说了算,算法最多只是个顾问,我们肯定不会任命某个人工智能来担任德国总理或者谷歌的CEO,但是其实总理和CEO的决策都是由人工智能所制定的。
为什么?像是在今天,世界各地的政治家似乎可以在很多不同的经济政策之间自由的选择,但真正重要的决定,再次之前就有经济学家、金融专家和商人在提出选项的时候就做完了。也就是说,是他们为政治家提供了下选择的方向。而在未来,这些选项都是人工智能提供的。
刚才我们提到的,冷酷无情的机器人杀手,无处不在的政权监控,没法抗议的个人歧视,以及早就被安排好的政策选项,这些都是赫拉利要提醒我们的,我们不希望看到的数字独裁的某一个侧面。
谁该拥有数据
以上是“自由,数字霸权”这个议题。我们再聊一聊下一个议题“平等,谁该拥有数据”。
关于平等的讨论,我们之前就已经说了不少了,并且在《未来简史》当中也已经有了很多的讨论。基本的结论就是人工智能的崛起会让绝大多数人不再拥有经济价值和政治力量。这就是我们所说的沦为“无用阶级”。
同时,更加令人愤愤不平的是,生物技术会将经济上的不平等,转化为生物上的不平等。富人可以对自己的身体进行不断的改进。他们不仅更有钱,而且还更有天赋、更有创意、更加聪明。到了2100年,最富有的1%的人,不仅拥有全世界绝大部分的财富,更拥有全世界绝大部分的美丽、创意和健康。
从长远来看,神人与“无用阶级”可能会彻底的分化开来,神人聚集起来自称“文明”,再用城墙把自己与外界的“野蛮人”隔绝开来。在20世纪,工业文明需要野蛮人的劳动力、原材料和市场,所以文明征服了野蛮并加以吸收。但是到了21世纪,后工业文明需要的是人工智能、生物技术,他们可以自给自足,自我维系。于是,不只是一群人类,就连整个国家,乃至整片大陆都将变得无足轻重。
到时候可能就会有文明区与野蛮区的分别,两者之间由无人机和机器人形成边界。在文明区当中,作战的时候是生化人彼此相互投掷逻辑炸弹;而在野蛮区当中,用的则是刺刀和AK47。
对此,赫拉利提出了一个问题,数据到底应该谁来拥有。为什么要特别强调数据呢?
* 在古代,土地是世界上最最重要的资产,所有政治斗争都是为了控制土地,当太多的土地集中到少数人手中,社会就分裂成为贵族和平民。
* 到了现代,机器和工厂的重要性超过了土地,当太多机器集中在少数人手中,社会就分裂成了资本家和无产阶级。
* 而到了21世纪,数据的重要性又会超越土地和机器。当太多的数据集中在少数人手中的时候,我们人类竟然会分裂成神人和无用阶级这样的不同物种。
数据才是今后最最重要的资产。
其实,争夺数据的比赛现在就已经开始了。谷歌、facebook、腾讯、阿里等这些互联网企业已经成为了数据巨头。现在他们主要的商业模式是提供免费信息、娱乐和服务来吸引我们的注意力,再把我们的注意力卖给广告主。
但其中的重点并不是销售广告,而是吸引我们的注意力从而获得我们大量的数据,这些数据远远要比广告收入更有价值。我们每个人根本就不是他们的用户,而是商品。
就像我们刚才所说的,如果我们要买什么车,都是听算法的,那汽车广告还有什么用?一旦算法开始为我们选择和购买商品,广告业立即就会崩溃。
所以就长期来看,数据远比广告要重要得多。想要破解生命最深层的秘密,想要帮我们做选择或者是操纵我们,甚至重新设计生物或者无机的生命形式,这一切的前提都是足够多的数据和运算能力。
现在我们作为数据巨头的商品,是很乐意放弃自己的个人数据来换取免费的电子邮件服务和可爱的猫咪照片的。这就有点像是非洲和美洲的原住民,在不经意间把整个国家卖给了欧洲,换来各种颜色的珠子和廉价的饰品。
如果我们想要阻止大量的数据所凝结成的神秘力量,被少数人掌握,最终将我们人类分裂成不同的物种的话,赫拉利给我们的关键问题就是:到底谁该拥有数据呢?关于我自己的DNA,我的大脑和生命,这些数据是应该属于政府,企业,还是谁呢?
如果授权政府把数据国有化,确实可以抑制现在的数据巨头们,但是这可能导致令人战栗的数据独裁,这我们刚才也提到了。虽然我们也担心某些企业的力量过于强大,但是从历史上来看,让政府无所不能也绝不是好事儿。
所以赫拉利说,我宁愿把数据交给扎克伯格,也不想给某些国家的领导人。不过我们从前段时间的剑桥分析公司的丑闻来看,或者二者并没有多大的差异,交给扎克伯格的数据依然可能流到某国的领导人手中。
相比于交给企业和国家,似乎把数据留在我们自己手上听起来更好。但是数据留在个人手上不仅毫无价值不说,而且我们都没办法清楚的对这件事情定义。
像是拥有土地这件事情我们就很清楚,可以把地圈起来,中间的部分就是我自己的。拥有企业这件事儿,我们也有一套办法,比方说可以通过买卖股票拥有腾讯或者丰田汽车的一部分。
但是拥有数据,怎么个拥有法呢?数据无所不在,但又没有真实的形态,可以说他正在以光速移动,也可以说他能创造出无穷无尽的副本。
所以虽然赫拉利抛出了这个议题,但是根本就没有答案,或者说基本的问题我们都没有办法描述清楚。赫拉利呼吁所有的人,好好注意这个难题,要如何规范数据的所有权。这可能是这个时代最最重要的政治问题。
标签:表达 一个 科幻 掌握 出现 劳动力 大数 趣味 保险公司
原文地址:https://www.cnblogs.com/changwoo/p/9742832.html