赫拉利在《今日简史》中是如何谈算法霸权的?

《今日简史》是赫拉利的第三本书,之前的两本分别是《人类简史》和《未来简史》,这里对这个题目吐槽下,人家书名明明是《21 Lessons for the 21st Century》,也即《21世纪的21个问题》,中译文似乎是为了让它和作者之前的两本书风格相契合,将书名改成了“简史”,因此,这本书并不讲历史,而是讲问题。

赫拉利在《今日简史》中是如何谈算法霸权的?

作者讲了21个重要的问题,比如技术带来的数据霸权等,对于这些问题作者并没有给出明确答案,因为它们本身就可能没有答案,作者只是给出了问题,不过有时候能提出问题比解决问题更重要,这便是这本书的价值。

这本书第三,第四章特别讲到了数据和算法,题目分别是“自由:数据霸权与社会公平”、“平等:谁该拥有数据”,其中关于算法霸权的描述让人耳目一新,特此分享。

赫拉利提到,我们相信自由选择,但这些概念其实并不自然,也称不上久远,过去几千年,人类相信权威来自神祗,而非来自内心,推崇的是神的话语,而不是人的自由,到最近几个世纪,权威的来源才从天上的神变成人。

然而很快,权威的来源可能再次改变:从人类转到算法,即将到来的技术革命,可能建立起大数据算法的权威,同时完全推翻个人自由的信念。

1、从来没有自由意志

对于人脑和人体运作方式的科学研究显示,人类的种种感受既不是什么人类独有的精神灵性,也不代表什么“自由意志”,比如我现在说请不要想熊猫,你其实根本无法控制不去想熊猫,自由意志从何而来?

所有的“感受”只是所有哺乳动物都拥有的生化机制,用来快速运算生存和繁殖的概率,“感受”的基础也不是直觉、灵感或自由,而是运算。

猴子、老鼠或人类看到蛇的时候会感受到恐惧,是因为大脑里的几百万个神经元迅速计算了相关数据,并得出“死亡的可能性很高”这个结论,小孩学语言这么快是因为先天内置了一套语言模型框架,至于愤怒、内疚或宽恕这类的道德感受,这是基于团队合作相关的神经机制。

所有这些生化算法都经历了数百万年的进化打磨,如果古代祖先的感受犯了错误,塑造这些感受的基因就不会传给下一代,因此,感受并非与理性背道而驰,而是体现了进化上的理性。

虽然,自由主义在“种种感受反映出人类的自由意志”这一点上犯了错,但直到今天,依靠情感来做决定仍然有很好的实际意义,比如讲到该学什么专业,该跟谁结婚,该把票投给谁,“靠感受”仍然是最好的办法,而且,也没有什么外部系统能够比我们自己更了解自己的感受,没有谁能攻入我们的身体,也无法了解种种生化程序是如何塑造我的欲望和选择的。

2、两大革命让算法霸权崛起

我们现正处于两次巨大革命的交汇中,一方面,生物学家正在揭开(特别是大脑和人类感受)的奥秘;另一方面,计算机科学家让我们获得前所未有的数据处理能力,生物技术革命和信息技术革命融合后,大数据算法有可能比我更能监测和理解我的感受,而掌控一切的权威也可能从人类手中转移到计算机手中。

自由主义要人们追随自己的内心其实没有错,然而,计算机算法很快就能给你比“人类的感受”更好的建议,而这种现象已经或即将发生。

3、健康霸道算法替我做主

很快,我们生命中最重要的医疗决定,并不是取决于我们自己是否觉得健康,甚至也不是看医生做出什么判断,而是要看比我们更了解自己身体的计算机得出怎样的运算结果。

例如抽烟这件事,现在只是有个整体的数据统计,告诉你抽烟和肺癌有关,但以后可能会有生物传感器明确告诉你:刚刚你左上肺检测到17个癌细胞,你继续抽烟,情况就完全不一样。如果你继续抽烟,传感器就把报告转发给你的保险公司、领导、母亲,你该怎么办?

谁又有足够的时间和精力面对各种疾病?我们还是让身上插满生物传感器,干脆告诉健康算法,大多数时候它觉得怎么办好就怎么办吧!于是算法大概只会定期把近况通知发送到我们的智能手机上,告诉我们“已经监测并消灭17个癌细胞”,整天担心自己生病的焦虑症患者或许会真的去看这些通知,大多数人大概只会一眼扫过,就像我们懒得看烦人的反计算机病毒通知一样。

话说有了360,似乎自己再也没有主动去查杀过病毒了,以后都会习以为常吧。

4、细思极恐的决策能力

现在算法还仅仅监视你浏览网站,看视频,购物等行为,然后将这些信息卖个几十亿,你也心甘情愿的分享自己的信息,以获得更好的建议,最后直接让算法为我们做决定。

但其实很多行为无法真实的反应你的意图,比如大家去看个科幻电影,其实你不喜欢科幻电影,但碍于面子你不得不去,结果自己看到一半就睡到不省人事,事后觉得可不能让人认为自己是个俗人,所以还是要向大家声称这部片子太好看了。

未来的算法可不一样,它可以实时监控我们看完了哪些电影,又有哪些是中途放弃了的,甚至通过你的眼部及脸部肌肉的动作来监测情绪,以后评价电影都是算法说了算,哪有豆瓣说话的份?水军也没了市场!

超级商家以后可以在电视机或电脑上装一个好的摄像头,这种软件就能知道哪些场景让我们发笑,哪些场景使我们哀伤,又有哪些场景令我们感到无聊,再进一步的做法,如果算法能与生物传感器连接,就能知道哪个画面如何影响我们的心跳、血压和大脑活动。

因此,现在的推荐算法真是弱爆了,未来的超级亚马逊,超级网飞,超级淘宝,超级腾讯就能帮我们把决策做的精准无比,更能够替我们做出人生中最重要的决定,比如读什么专业、在哪里工作,和谁结婚。

比如笔者上大学选专业可是一脸懵逼,挑了个名字好听的信息与电子工程,进去一看刚改了名,原来的名字叫无线电系,这个是什么东东?早知道我跟大数据有缘,算法早10年告诉我学数学专业该多好?当然笔者运气好,赶上了通信大发展的好时代,但不是人人都有好运气。

因为其实那时候根本不清楚自己的长处和短处?对自己的能力不够了解,甚至可能对信息与电子工程有错误的想象,但谁都帮不了我。

5、算法的控制是潜移默化的

很多人关注自己的隐私,甚至在做隐私的保卫战,但结局如何?

以下是一个真实的个人案例:

大约在三年前,我还对线上收集我个人隐私信息“谈虎色变”:我刻意避免使用“百度”系产品、我会使用一次性邮箱服务来搪塞那些索要我邮箱地址的注册要求、我自己劳心劳神研究搭建“私人云”、随身还会揣个装满零钱的钱包以求多使用现金交易。

但你应该看出来,“刻意”、“劳心劳神”等词,已经预示着我在这场保卫战中,坚持不了多久。

看看现在的自己,我怎么了?上个月赶潮流买的智能音箱似乎“隔墙有耳”、百度系产品全面战胜国外产品使我不得不麻木地选择使用他们的产品、几次忘记密码给我带来的不便让我放弃了一次性邮箱的安全措施、为了薅羊毛、用优惠券我早习惯用电子支付手段。对了,现在我唯一的困扰是加油站还要现金付油费,因为我好久不带钱包揣现金了……

我们的经验有用,但只要有稍好一点的选择,我们就会放弃经验,以找路为例,现在已经有很多人用百度、高德导航,到了十字路口,虽然自觉可能是让他们左转,但百度地图说右转,在过去,他们大概会听从直觉,结果一左转就遇上堵车,最后错过了重要会议,于是,下一次他们决定听百度的,向右转,并且准时到达目的地,就这样,他们从经验中学会了要相信百度,一两年后,当百度成了习惯,如果智能手机死机,他们将完全手足无措,不可能再回到从前了,找路的能力就像肌肉,用进废退。

6、算法的道德困境如何解决

有人可能会提出异议,认为重要的决策通常涉及道德因素,而算法不懂道德,所以我们永远不会把重要的决定交给算法去处理。

然而,就算是在道德方面,也没有理由认为算法的表现会比一般人差,这里来谈谈自动驾驶汽车的道德困境问题。

举例来说,假设有两个孩子追球,忽然冲到一辆自动驾驶汽车的前面,开着这台车的算法立刻完成运算:要避免撞到两个小孩的唯一方法就是转进逆向车道,但这可能撞上迎面而来的卡车,有70%的可能让后座的车主一命归天,算法该怎么做决定?

这种“电车难题”哲学家其实已经讨论了千年,但讨论了几千年,却对人类司机行为根本没产生什么影响,遇到紧急状况,什么哲学全部都抛在脑后,一切都由情绪和直觉来处理。

每年都有超过100万人因为司机分心、愤怒或焦虑而死于交通意外,我们当然可以派出哲学家、先知和神职人员好好给这些司机上上伦理课,但只要一回到路上,他们又回到情绪本能,哲学到真实生活之间的分离,正是伦理学最大的实际问题之一,或许对于舒马赫来说,还真能边赛车边思考哲学问题,但我们大多数人都不是舒马赫。

但如果我们教康德、穆勒和罗尔斯怎么写程序,他们就能在研究室里为自动驾驶汽车写出程序,也肯定能让每辆自动驾驶汽车在路上都遵守所有伦理规范,这就像舒马赫和康德合二为一,担任每辆车的驾驶员一样。

当然,“电车难题”这类问题的答案,很少能让所有人满意,但特斯拉只要把烫手的山芋丢给市场就行了,直接生产两款自动驾驶汽车:特斯拉“利他”款和特斯拉“自我”款,遇到紧急状况的时候,“利他”款为了整体利益牺牲主人,“自我”款则相反。

大家都别嚷嚷,你要“利他”,就买”利他”,但想想家人会不会和你吵一架?所以,是不是由国家介入,规范市场,直接制定一套所有自动驾驶汽车的伦理准则更合理?

但无论怎样,人人都希望街上开的是康德+舒马赫合体的自动驾驶汽车!

随着权威从人类转向算法,世界可能不再是自主的、人们努力作出正确选择的剧场。相反,我们可能会认为人类就是一个数据流,每个有机体不过是一套生化算法。至于人类在这个宇宙中的人物,则是打造一套无所不包的数据处理系统,然后和系统融为一体。其实现在我们已经像一个又一个小小芯片,装在一个大到没人真正理解的数据处理系统之中。

各个巨头则埋头收集数据和隐私,如同在“西进新大陆”上撒了欢地在“圈地”,而我们,就像原住民印第安人一样眼瞅着这些骑着马的“牛仔”圈我们的地儿。

7、数据的所有权问题

除了谈到算法霸权,赫拉利担心人类社会财富和地位日趋的不平等,权贵阶级将插上“生物工程”、“人工智能”两个翅膀,一跃成为渺视众生的“神人”阶级,并提出要避免这种担心成真的一个关键措施,在于规范未来宝贵的资源——“数据”的所有权。

当前争夺数据的比赛已经开始,谷歌等数据巨头现在看似采用“注意力商人”的商业模式,但他们真正的业务不是销售广告,而是靠吸引我们的注意力,取得关于我们的大量数据,这些数据远比任何广告收入更有价值,我们不是他们的用户,而是商品。

赫拉利提了未来的一种基于数据的商业模式,这种商业模式将权利从人类转到算法手中,某一天,我们可以问谷歌:“谷歌,根据你对汽车和我的所有了解,哪辆车是我最好的选择?”,假设谷歌确实能给出很好的答案,而且我们已经从经验得知要相信谷歌的智慧(自动导航不就是这么演化过来的吗?),到那个时候,汽车广告还有什么用?

就长期来看,只要取得足够多的数据和运算能力,数据巨头破解生命最深层次的秘密也不是不可能,也许它们现在评估应用的标准已经不是能赚多少钱,而是能搜集到多少数据。

因此赫拉利提出了“把数据的拥有权我在自己手上”的建议,但怎么做呢,他没有给出直接答案,这里笔者找到了两个新的回答。

第一个答案来自欧洲:2018年5月25日生效的欧盟《一般数据保护条例》 ,简称GDPR。

该条例主张:

欧盟境内个人选择权在法律上优先自动化决定;

将个人敏感数据排除在AI之外;

增加数据采集透明度;

个人对自动化决定不满有权利主张人工介入。

其中第二点具体来说就是:

“将个人敏感数据排除在人工智能的自动化决定之外。根据《统一数据保护条例》第9(1)条,“敏感数据”即有关种族、政治倾向、宗教信仰、健康、性生活、性取向的数据,或者可唯一性识别自然人的基因数据、生物数据。由于这些数据一旦遭到泄露、修改或不当利用,就会对个人造成不良影响,因此,欧盟一律禁止自动化处理,即使当事人同意亦是如是,只有在明确的法律规定时才存在例外”

对此,既可以说该条例就像欧盟前几年提出的全球排放标准一样,会是高标准乃至会拖延企业效率的法律要求,但至少这是一个探索。

而第二个回答,可以关注的方向是“区块链”,区块链去中心化等特性令人浮想联翩,笔者最近读了一些相关文章,写了篇《我的信息我做主,区块链让我们拥有个人信息的所有权?》文章,到时分享给大家。

除了关于数据和算法的,《今日简史》一共提了21个问题,发人深省的包括全球化问题、恐怖主义的应对、后真相时代、教育革命等等,如果有时间,也建议你读一读。

作者:傅一平    微信号:fuyipingmnb  欢迎交流!

本站特约专栏文章,作者:傅一平,本文链接:https://www.afenxi.com/59863.html 。内容观点不代表本站立场,如若转载请联系专栏作者。

发表评论

登录后才能评论

联系我们

如有建议:>>给我留言

大数据交流群

统  计  学 数据分析网-统计学

商业智能 数据分析网-商业智能

数据挖掘 数据分析-数据挖掘

数据产品 数据分析网-数据产品

QR code