啃书文学网

手机浏览器扫描二维码访问

第3章 自由 数据霸权与社会公平（第2页）

谁都可以列出算法面临的许许多多问题，并由此得出结论：人类永远不会信任算法。这有点儿像列出民主的所有弊端，然后得出结论：任何一个有理智的人都不会支持这种制度。丘吉尔曾有一句名言，说除了其他所有制度之外，民主是全世界最糟糕的政治制度。不论是对是错，人类都可能对大数据算法得到相同的结论：虽然算法漏洞百出，但我们并没有更好的选择。

随着科学家越来越了解人类的决策机制，对算法的依赖可能也会越来越强烈。掌握人类的决策机制之后，就能提升大数据算法的可靠性，但同时也降低了人类感受的可靠性。而当政府和企业都能够成功进入我们这套人体操作系统时，人类就将面临铺天盖地的种种精准操纵、广告和宣传。到时候，要操纵我们的观点和情绪将非常简单，于是我们也不得不依赖算法来反制，就像飞行员一旦因为眩晕而产生空间迷向，就不能再相信自己的感官，而必须全然相信仪器。

在某些国家和某些情况下，人们可能完全没有选择，只能被迫服从大数据算法的决定。然而，就算是在理论上自由的社会里，算法也可能成为权威，因为经验让我们把越来越多的问题交给算法来处理，最后也就逐渐失去为自己做决定的能力。只要简单回想一下，短短不到20年，就已经有几十亿人把一件可以说是最重要的任务全然交付给了谷歌搜索算法：搜索相关、可信赖的信息。我们不再自己去搜索信息，而是都靠“谷歌一下”。而随着我们越来越依赖谷歌来寻找答案，自己搜索信息的能力就会下降。今日的“真相”，已经是由谷歌搜索排名最靠前的结果来定义。

人类的身体能力也正在发生这种情况。以找路为例，现在已经有很多人用谷歌来导航。到了十字路口，虽然直觉可能是让他们左转，但谷歌地图说右转。在过去，他们大概会听从直觉，结果一左转就遇上堵车，最后错过了重要会议。于是，下一次他们决定听谷歌的，向右转，并且准时到达目的地。就这样，他们从经验中学会了要相信谷歌。一两年后，他们已经习惯了盲目遵照谷歌地图的指示，如果智能手机死机，他们将完全手足无措。

2012年3月，三名在澳大利亚旅游的日本游客决定到一个小岛上一日游，结果却把车一头开进了太平洋。21岁的司机野田后来说，她只是按照GPS（全球定位系统）的指示开车，“GPS说我们可以开过去，它一直说会把我们带到一条路上。然后我们就开进了海里”。还有很多类似的例子，有人冲进湖里，有人栽到桥下，显然都是开车的时候太听GPS的话。找路的能力就像肌肉，用进废退。选择伴侣或选择从事哪个职业的能力，也是如此。

每年都有几百万名年轻人要决定大学读什么专业。这是个既重要又困难的决定。父母、朋友和师长各有想法，让你深感压力，而且，你还有自己背负的恐惧和想象。你的判断力受到各种好莱坞大片、垃圾小说和高明的广告活动的笼罩和操纵。要做个明智的抉择真的很难，尤其是你根本不知道想在不同的行业出人头地，到底需要什么条件。而且，你真的清楚自己的长处和短处吗？优秀的律师要具备什么条件？我能面对压力吗？我有团队合作精神吗？

一个学生之所以去学法律，有可能是因为对自己的能力不够了解，甚至可能是因为对律师工作有错误的想象（律师可不会每天上演慷慨激昂的辩论，一再高喊：“我反对，法官大人！”）。与此同时，她的朋友决定实现童年的梦想，虽然身体条件不佳，也缺乏自律，但还是进了专业芭蕾舞学校。几年后，这两个人都非常后悔。但在未来，或许我们就能靠谷歌来为我们做出这些决定。谷歌会告诉我，我上法学院或芭蕾舞学校就是浪费时间，但如果当个心理学家或水电工，将会非常出色（而且非常快乐）。

一旦人工智能比我们自己更清楚该选择哪个职业，甚至怎样处理人际关系，我们对人性和生命的概念将不得不改变。人类习惯把生命看成一场由一连串的抉择构成的大戏。在自由民主主义和自由市场资本主义眼中，每个个体都是自主的行动者，不断对世界做出各种选择。众多文艺作品（无论是莎士比亚的戏剧、简·奥斯丁的小说，还是滥俗的好莱坞喜剧），通常讲的都是某个英雄做了什么特别重要的决定。哈姆雷特问：生存还是毁灭？麦克白问：是听从妻子的话刺杀邓肯国王，还是听从自己的良心放过他？《傲慢与偏见》中的伊丽莎白则问：是嫁给柯林斯先生，还是达西先生？基督教和伊斯兰教同样重视这场决策大戏，认为究竟是得到永恒的救赎还是永世的诅咒，取决于能否做出正确的选择。

但随着人类越来越依赖人工智能来做决定，这种对生命的观点会发生怎样的改变？现在我们只是信赖由网飞来推荐电影，由谷歌地图来决定该往左还是该往右。然而，一旦我们开始交由人工智能来决定要读什么专业、在哪里工作、和谁结婚，人类的生命就不再是一场决策大戏了。民主选举、自由市场，这些机制将会失去意义，而且大多数宗教和艺术品也是如此。想象一下，安娜·卡列尼娜居然拿出智能手机，问问脸谱网算法，她是该继续和卡列宁长相厮守，还是和时髦的伏伦斯基伯爵私奔？又或者你最爱的任何一出莎士比亚戏剧，里面的角色居然一遇到重要决定就先请教谷歌算法？哈姆雷特和麦克白的生活大概确实能过得更舒适，但那究竟算是什么生活？我们有什么理论模式，能把这种生活说出个道理？

随着权威从人类转向算法，世界可能不再是一个自主的、人们努力做出正确选择的剧场。相反，我们可能会认为整个宇宙就是一个数据流，每个有机体不过是一套生化算法。至于人类在这个宇宙中的任务，则是打造一套无所不包的数据处理系统，然后与系统融为一体。其实，我们现在就已经像一个又一个小小的芯片，装在一个大到没有人真正理解的数据处理系统之中。以我本人为例，我每天都要通过电子邮件、推文和各种文章吸收无数的数据，处理这些数据之后，又要通过更多的电子邮件、推文和文章，传回新的资料。我真的不知道这世界上一切的背后有什么宏观的架构，我所产出的数据将如何与其他几十亿人或计算机产生的数据连接。很遗憾，我没有时间找出答案，光是回信就已经让我焦头烂额。

汽车也懂哲学

有人可能会提出异议，认为重要的决策通常涉及道德因素，而算法不懂道德，所以我们永远不会把重要的决定交给算法去处理。然而，就算是在道德方面，也没有理由认为算法的表现会比一般人差。今天，智能手机和自动驾驶汽车等设备已经接手一些原本专属于人类的决定，也开始应对一些早已困扰人类几千年的道德问题。

举例来说，假设有两个小孩追球，忽然冲到一辆自动驾驶汽车的前方。开着这台车的算法立刻完成运算，得出结论：要避免撞到两个小孩的唯一方法是转进逆向车道，但这就可能撞上迎面而来的卡车，而根据运算结果，这样一来有70%的可能会让在后座睡得正酣的车主一命归天。算法该怎么做决定？

像这样的“电车难题”（trolleyproblem），哲学家其实已经讨论几千年了（之所以叫“电车难题”，是因为现代哲学讨论时的基本范例是在铁轨上跑的电车，而不是自动驾驶汽车）。但讨论了几千年，却对人类实际行为根本没产生什么影响；遇到紧急状况，什么哲学全都被抛在脑后，一切都由情绪和直觉来处理。

1970年12月，有一场社科史上相当令人不悦的实验，那是在普林斯顿神学院，实验对象是一群受训要成为长老教会牧师的学生。当时，实验人员叫所有学生立刻赶往远处的一个演讲厅，就“好撒玛利亚人”（GoodSamaritan）这个寓言发表演说。这个寓言讲的是有个犹太人要从耶路撒冷前往耶利哥，但遭到强盗抢劫和殴打，被丢在路边等死。过了一会儿，有一个祭司和一个利未人经过并看到了他，但两人都未停下脚步。后来有一个撒玛利亚人（犹太教相当鄙视这个教派）路过，立刻停下来照顾他，救了他的命。这个寓言告诉我们，人是好是坏，应该由实际行为来判断，而不是由所属宗教来判断。

这些年轻的神学院学生一心想赶往演讲厅，路上想的都是怎样才能解释好撒玛利亚人的道德寓意。然而，实验人员在路上安排了一个人，穿得破破烂烂地坐在门口，低着头，闭着眼睛。每个没起半点儿疑心的学生经过时，这个“受害者”都会咳嗽并发出痛苦的呻吟声。但绝大多数学生完全没有停下脚步来关心一下他，更别说提供任何帮助了。要赶去演讲厅所造成的情绪压力，已经压过了他们想帮助受难陌生人的道德责任。

还有其他许许多多情况，都是人类的情绪战胜了哲学理论。因此，如果要讲全世界的伦理和哲学史，会是个理想很美好但现实很残酷的沮丧故事。毕竟，有多少基督徒真能把脸转过去，有多少佛教徒真能超脱利己的执念，又有多少犹太人真能爱邻如己？我们所表现出的，不过就是自然选择把智人塑造成的样子。一如所有的哺乳动物，智人也是靠着情绪来快速做出各种关乎生死的决定。从几百万个祖先那里，我们继承了他们的愤怒、恐惧和欲望，而这些祖先每一个都通过了最严格的自然选择质量管控测试。

但不幸的是，适合在100万年前的非洲大草原上生存和繁殖的特点，不见得会让你在21世纪的高速公路上是个负责的人。每年都有超过100万人因为司机分心、愤怒或焦虑而死于交通意外。我们当然可以派出所有哲学家、先知和神职人员好好给这些司机上上伦理课，但只要一回到路上，他们又会回到哺乳动物的情绪和草原本能。正因为如此，神学院的学生才无视受苦的路人，司机才会在紧急状况下撞倒无辜的行人。

从神学院到真实生活之间的分离，正是伦理学最大的实际问题之一。康德、约翰·穆勒（JohnStuartMill）和约翰·罗尔斯（JohnRawls）当然能够舒舒服服地坐在大学讲堂里，花上好几天大谈伦理道德的理论问题；但在司机发现危急的瞬间，急都急坏了，哪还有时间管这些人有什么结论。或许对于迈克尔·舒马赫（MichaelSchumacher，现代最伟大的一级方程式赛车车手之一）来说，还真能边赛车边思考哲学问题，但我们大多数人都不是舒马赫。

然而，计算机算法并不是由自然选择塑造而成，而且既没情绪也无直觉。所以到了危急的瞬间，它们继续遵守伦理道德的能力就比人类高出许多：只要我们想办法把伦理道德用精确的数字和统计编写成程序就行。如果我们教康德、穆勒和罗尔斯怎么写程序，他们就能在舒舒服服的研究室里为自动驾驶汽车写出程序，也肯定能让每辆自动驾驶汽车在路上都遵守所有伦理规范。这就像让舒马赫和康德合二为一，担任每辆车的驾驶员一样。

这样一来，只要程序里规定自动驾驶汽车必须停车帮助遭遇危难的陌生人，即便是赴汤蹈火，它都将在所不辞。（当然，如果你针对这些汤汤火火另加个例外条款，情况就不一样了。）同样，如果自动驾驶汽车的程序原本就写着要转进逆向车道救那两个小孩，你绝对可以用生命打赌，它一定会这样做。也就是说，设计自动驾驶汽车的时候，丰田或特斯拉就是把过去道德哲学上的理论问题转化成了实际的工程问题。

当然，哲学算法永远不会是完美的。错误还是会发生，有人会受伤，有人会死亡，更有随之而来麻烦不已的诉讼。（历史上第一次，可能会有哲学家因其所提出的理论造成不幸结果而被告上法庭，因为这也是历史上第一次能够证明哲学概念与现实生活中的事件有直接因果关系。）然而，如果只是要取代人类驾驶员，算法并不需要做到完美无缺，只要比人类更好就行了。鉴于人类驾驶员每年造成超过100万人因车祸死亡，算法要表现得比人类好并不是什么太难的事。你会希望旁边那辆车的驾驶员是谁？是某个喝醉的小鬼，还是舒马赫和康德的合体？

[3]KristoferD.KusanoandHamptonC.Gabler，‘SafetyBenefitsofForwardCollisionWarning，BrakeAssist，andAutonomousBrakingSystemsinRearEndCollisions’，IEEETransactionsonIntelligentTransportationSystems13:4（2012），1546–55;JamesM.Andersonetal.，AutonomousVehicleTechnology:AGuideforPolicymakers（SantaMonica:RANDCorporation，2014），esp.13–15;DanielJ.FagnantandKaraKockelman，‘PreparingaNationforAutonomousVehicles:Opportunities，BarriersandPolicyRemendations’，TransportationResearchPartA:PolicyandPractice77（2015），167–81.

这套逻辑不仅适用于驾驶，也适用于其他许多情况，比如申请工作。在21世纪，已经有越来越多的时候是由算法决定是否聘用某人。当然，我们不能让机器来制定相关伦理标准，这件事还是得由人类自己来完成。但只要确立了职场的伦理标准（比如不得歧视黑人或女性），接下来就可以用机器来实施和维护这项标准了。

某位人事经理可能心知肚明歧视黑人和女性有违伦理道德，但遇到某个黑人女性来申请工作时，还是下意识产生了歧视而不予录用。如果让计算机来评估求职者，并在编写程序之初就设定要完全忽略种族和性别因素，计算机一定会乖乖跳过这些因素，因为它并没有潜意识可言。当然，要写这种求职者评估程序并不容易，而且存在一种危险：工程师可能会不经意间把自己的潜在偏见写进软件里。不过发现这种错误后要清除也并非难事，至少比清除人类种族歧视和偏见的难度要低得多。

我们已经看到，人工智能兴起之后，可能会把大多数人类挤出就业市场，比如司机和交通警察（没了鲁莽的人类驾驶员，只剩下乖乖开车的算法，交通警察也就无用武之地了）。然而，对哲学家来说可能会出现一些新的工作机会，他们的专业技能在过去没什么市场价值，但未来可能会突然变得相当吃香。所以，如果想读个未来能找到好工作的专业，或许可以考虑一下哲学领域。

当然，哲学家对于什么是“对的行为”很少有共识。“电车难题”之类问题的答案，很少能让所有哲学家都满意，例如穆勒这样的结果论者（consequentialist，以结果判断行为），他的想法一定会不同于康德这样的义务论者（deontologist，以绝对的规则来判断行为）。特斯拉不过是要做一辆车，真的要在这种棘手的问题上选择一方吗？

或许特斯拉只要把烫手山芋丢给市场就行，直接生产两款自动驾驶汽车：特斯拉“利他”款和特斯拉“自我”款。遇到紧急状况的时候，“利他”款会为了整体利益而牺牲主人；“自我”款则会不顾一切保护主人，撞死两个小孩也在所不惜。至于消费者，则可以根据自己偏好的哲学观来选车。这样一来，如果多数人买了特斯拉“自我”款，你也不能怪特斯拉。毕竟，顾客永远是对的。

这可不是开玩笑。在2015年一项开先河的研究中，研究人员请参与者假想自动驾驶汽车即将撞到几个路人的情景。大多数参与者都认为，就算可能会牺牲车主，自动驾驶汽车还是应该保全那几个路人的生命。只是，等到再问他们会不会买一部设定为“牺牲车主、顾全整体利益”的车时，大多数人都说“不”。如果涉及自身，他们还是比较喜欢特斯拉“自我”款。

想象一下这个情境：你买了一辆新车，但启用之前得先打开设置菜单，勾选一个选项——如果发生事故，你是希望这辆车牺牲你的性命，还是牺牲另一辆车上那家人的性命。你真的想要做这个选择吗？想想看，如果真选了其中某个选项，家里人会不会和你大吵一架？

所以，是不是该由国家介入，规范市场，直接制定一套所有自动驾驶汽车都必须遵守的伦理准则？肯定会有某些立法者兴奋不已，毕竟终于有机会写出真的大家都会乖乖遵守的法律了。但也有某些立法者会深感不安，因为这背后代表的是要负起前所未有甚至是极权主义的责任。毕竟在历史上，幸好法律的实施必然有其局限性，也就能制衡立法时的种种偏见、错误和过度。各种反同性恋、反亵渎神祇的法律都从未全面实施，实在是非常幸运。而看着政治人物时不时地犯错，我们是否真的希望有这样一套制度系统，会把他们的决定彻底贯彻，像重力一样无所不在？

数字独裁

很多人之所以害怕人工智能，是因为他们不相信人工智能会一直听话顺从。已经有太多描写机器人反抗人类主人，在大街上四处乱窜、恣意屠杀的科幻小说和电影。然而，机器人可能带来的问题其实恰恰相反。我们是该害怕机器人，但原因是它们永远只会服从主人，绝不反抗。

当然，盲目听从没有什么问题，但前提是主人得是个好人。在战场上，如果交战双方全用杀手机器人上场，就能确保这是历史上第一次真正遵守战争法的战役。人类士兵可能一时受到情绪影响，就犯下谋杀、强盗、强奸等违犯战争法的罪行。讲到情绪，我们通常想到的是爱心、同情心和同理心，但在战场上，控制着人的情绪的往往是残酷、仇恨和恐惧。由于机器人没有情绪，就能放心地相信它们会一字一句遵守所有军事规章，永远不受个人恐惧和仇恨的影响。

1968年3月16日，一群美国士兵在越南南部的美莱村的行动变调，他们陷入疯狂，屠杀了大约400名平民。这起战争罪行的起源，是当时士兵已经打了好几个月的丛林游击战，他们自行在当地做了这个决定。这个行动没有任何战略目的，同时违犯了美国的法律规定与军事政策。这是一场出于人类情绪影响的错误。如果美国当时在越南派的是机器人杀手，美莱村大屠杀就绝不可能发生。

面对秋阳  重生：影后夫妇疯狂撒狗粮  小农女种田忙  天才萌宝：爹地超宠妻  婚心动魄：我的神秘大boss  重生九零之神医商女  重生年代：胖厨娘的红火小日子  穿越梦境  神王殿  人在航海，开局艾尔沃特海战  守城使  蜜宠霸爱：厉少，你失宠了  盗墓笔记之尘封的记忆  夫人，总裁他罪不至死  她切回满级大号了  沈再云夏顾雪重生鉴宝  世家三代录  凰谋天下  前妻别跑：偏执慕总放肆宠  市场·情场·官场