啃书文学网

手机浏览器扫描二维码访问

第十二章 人工智能与人脸识别 是否应该像保护手机一样保护我们的面部（第1页）

一秒记住【xiaoyanwenxue.com】精彩无弹窗免费！“中信出版2020年度好书-经济管理（套装共12册）（.shg.tw）”！

第十二章人工智能与人脸识别：是否应该像保护手机一样保护我们的面部

科技存在被滥用的风险

2002年6月，史蒂文·斯皮尔伯格执导的新片《少数派报告》首映。这部电影是根据科幻小说作家菲利普·迪克1956年的著名短篇小说改编的，以2054年已消灭了犯罪的华盛顿特区为背景，由汤姆·克鲁斯主演。剧中，汤姆·克鲁斯扮演精英警察部门“预防犯罪小组”的一位主管，这个小组的职责是在凶手实施犯罪前逮捕他们。该小组有权根据三位“先知”所看到的意象实施逮捕，因为这三个人拥有洞悉未来的超自然能力。但是很快，“先知”预测克鲁斯自己将犯下谋杀罪行，因此他不得不开始逃亡，躲避自己部门的追捕——在一个所有人和所有行为都受到追踪的城市里。

15年之后再回头看这部影片，值得庆幸的是，这种执法方式看似有些牵强。不过今天，《少数派报告》中的一个场景似乎远远早于2054年就已经成为现实。影片中，克鲁斯在逃亡时走进了一家盖普店。这家零售商拥有一项技术，可以识别每一位进店的顾客，并会立即开始在一个显示屏上展示它认为顾客会喜欢的衣服图像。有些人可能觉得这个服务很有吸引力，但其他人可能会觉得它们很烦人甚至令人毛骨悚然。简而言之，进入一家这样的商店，就好比我们有时候浏览完网络后再去看社交媒体信息，却发现上面有我们刚刚在网页上浏览之物的广告。

在《少数派报告》中，斯皮尔伯格希望观众思考，科技如何既能被利用也能被滥用——科技可被用来在犯罪实际发生前消除犯罪，可一旦出了问题，它也可能被滥用来侵犯人权。在盖普商店里识别克鲁斯的技术是依赖于嵌入他体内的一块芯片。在21世纪的前20年，现实世界的技术进步甚至已经超过斯皮尔伯格的想象，因为今天已经不需要这样的芯片。人脸识别技术利用基于人工智能的计算机视觉与相机，辅以云数据，可以识别进入商店的顾客面孔，无论他们是上周还是一小时前曾经来过。这项技术正在为科技行业和政府创造一个先手机会，如何用一种重点突出而又切实具体的方式来处理人工智能的道德和人权问题，而它们能否抓住这个机会，就要看它们怎样决定来监管人脸识别技术了。

对于大多数人来说，最初简单场景的应用，如编目和搜索照片，现在已经变得日益复杂。很多人已经习惯了依靠人脸识别，而不是用密码，来解锁iPhone或Windows笔记本电脑。其应用不会仅止于此。

面部和指纹一样独特

现在，一台电脑已经可以完成我们几乎所有人从一出生就能做的事——识别人们的脸。对我们大多数人来说，这在一开始是能够认出妈妈的能力。养育孩子的乐趣之一，就是在进入家门的时候看到蹒跚学步的孩子激动地向你扑来。这种会一直持续到青少年时期的反应有赖于人类天生的人脸识别能力。虽然这是我们日常生活的基础，但我们几乎从不停下来思考是什么使它成为可能。

事实证明，我们的脸和指纹一样独特。我们的面部特征包括瞳孔之间的距离、鼻子的大小、微笑的样子和下巴的轮廓。计算机可使用照片来绘制这些特征并将它们编织在一起，并以此为基础建立一个数学方程，这些数学方程可以通过算法来访问。

人们正在把这项技术应用到世界各地，以便改善人们的生活。在某些情况下，这样做是为了方便消费者。澳大利亚国民银行正在利用微软的人脸识别技术开发一种服务，可以让顾客走到ATM前，无须银行卡即可安全取款。这些ATM可以识别顾客的面孔，然后他们就可以输入取款密码并完成交易。

在其他场景中，这种技术可带来更大的好处。在华盛顿特区，美国国家人类基因组研究所正在利用人脸识别技术帮助医生诊断一种被称为DiGeorge综合征（DGS）或22q11.2缺失综合征的疾病。这是一种多发于非洲、亚洲或拉丁美洲人口的疾病。它会导致各种严重的健康问题，包括心脏和肾脏的损伤。患有这种病的人也常常带有特定的面部特征，这些特征可以通过电脑使用人脸识别系统加以识别，从而帮助医生诊断出需要帮助的病人。

这些场景说明了一些重要和具体的方法，以便使人脸识别可以用于造福社会。这是21世纪的新工具。

然而，和许多其他工具一样，它也可以变成危险的武器。政府可能会使用人脸识别来识别参加和平集会的每一个人，并相应采取行动造成“寒蝉效应”，从而破坏人们自由表达和参与集会的权利。即使在一个民主社会，警察也可能过分依赖这个工具来识别嫌疑人，而没有意识到人脸识别，就像任何技术一样，并不总是能够完美无误地工作。

由于这些原因，人脸识别很容易与更广泛的政治和社会问题交织在一起，并提出了一个至关重要的问题：我们希望这种形式的人工智能在我们的社会中发挥什么作用？

2018年夏，突然发生了一个与当时最热门的政治话题相关的事件，让我们对未来得以一瞥。当年6月，弗吉尼亚州一位自称“自由软件修补者”的人显然对更广泛的政治问题也有浓厚的兴趣。他在推特上发布了一系列关于微软与美国移民与海关执法局（ICE），签订合同的消息，这些消息源于当年1月微软在公司官方营销博客上发布的一篇文章。坦率地说，公司里的每个人都已经忘记了那篇博文。不过，那篇文章表示，微软向ICE提供的技术已经通过了极高的安全门槛，将被ICE部署。文章还表示，微软公司对于能够支持该部门的工作而深感自豪，并且还有一句话提到了ICE使用人脸识别技术的潜力。

2018年6月，特朗普政府决定在美国南部墨西哥边境把非法入境者的孩子与家人分开，这迅速成为一个爆炸性问题。公司几个月前发表的一份营销稿现在看来已大不相同，而人脸识别技术的用途看起来也完全不同。人们担心ICE和其他移民机关可能会把像人脸识别这样的技术应用到工作中。这是否意味着，当移民在城市街道上行走时，连接到云端的摄像机可以用来识别他们的身份？这是否意味着，鉴于这项技术的现状，以及它可能产生偏差的风险，它可能会错误辨识某个人并导致其被错误拘留？这只是许多问题中的两个。

到西雅图人准备吃晚餐的时间，有关那篇营销博客文章的推特已在互联网上迅速传播，我们的传播团队则开始努力拟定回应。一些工程和营销团队的员工建议，我们只需要撤下这篇文章，他们说：“这篇文章已经发表很久了，现在对业务没有任何影响。”

微软传播业务主管弗兰克·肖三次建议他们不要撤下文章。他指出：“这只会让事情变得更糟。”尽管如此，还是有人禁不住诱惑，删除了文章的部分内容。果然，事情变得更糟了，新一轮负面报道蜂拥而至。到第二天早上，人们吸取了这个明显的教训，这篇文章又恢复了原样。

按照惯例，我们首先要弄清楚公司与ICE的合同到底包括了什么。

经过深入调查，我们发现这份合同根本没有被用在人脸识别上。谢天谢地，微软也没有参与任何在边境线上将孩子与其家人分开的项目。相反，这份合同其实是帮助ICE将其电子邮件、日历、消息和文档管理工作转移到云端。这与我们在美国和世界各地与客户（包括其他政府机构）合作的项目类似。

尽管如此，这件事仍然产生了一个新的争议。

他们可能不知道正确答案，但可能提出正确问题

有人建议微软撤销合同，并停止与ICE的所有合作，那个夏天与政府使用科技有关的问题几乎全是这么处理的。一些员工散发了一份请愿书，要求终止ICE合同。这个问题开始在整个科技行业引发更大的反应。云计算软件公司Salesforce也出现了类似的员工行动，主要是针对该公司与美国海关和边境保护局的合同。此前，谷歌员工已经发动员工行动，并导致谷歌取消了一个为美军开发人工智能的项目。美国公民自由联盟（ACLU）则将亚马逊作为目标，支持亚马逊的员工表达对其人脸识别服务Rekognation的担忧。

对于科技行业和更广泛的商业界来说，这一类员工行动是前所未有的新现象。有些人认为，这与一个多世纪以来工会在某些行业所起的作用有关，但实际上，工会关注的主要是其成员的福利和工作条件。2018年夏季的员工行动则有所不同，这些行动呼吁雇主在特定的社会问题上采取某种立场。员工们通过行动并没有任何直接或间接的收益，而只是希望他们的雇主能够坚持他们认为重要的社会价值观和立场。

仔细观察企业面对此类新兴员工行动的不同反应会对我们有所帮助。在几英里外的西雅图，亚马逊的管理层似乎很少直接与员工讨论这类问题。这种反应似乎抑制了员工提出问题的部分热情，实际上鼓励员工保持沉默并专注于业务。在硅谷，谷歌的管理层采取了截然不同的反应方式，面对员工的不满表达，公司有时会迅速改弦更张，包括终止一份以人工智能为核心的军事合同。一眼就能看出，应对这个问题并没有单一的方法，每家公司都需要考虑其自身的文化，以及其在员工关系方面的目标所在。认真思考了我们自己的文化之后，我们决定在上述两种截然不同的方法之间寻找一条中间道路。

这些插曲似乎反映了一些重要的事态发展。首先，或许也是最重要的一点是，员工对雇主的期望越来越高。几个月前发布的年度《爱德曼信任度调查报告》充分捕捉并揭示了这一变化。爱德曼公关公司自2001年起开始发布信任度调查报告，通过调研人们对公共机构信任度的增减，了解全球各地公众情绪的变化。其2018年初发布的报告显示，尽管人们对许多机构的信任度大幅下降，但员工对雇主的信心走势却大为不同。研究发现，全球72%的人相信自己的雇主“在做正确的事”，而在美国，这一比例更高达79%。相比之下，只有13的美国人对自己的政府有这种感觉。

我们自己的经历也验证了这一观点，甚至更进一步。在科技行业，一些员工希望在公司针对当今热点问题进行决策时发挥积极作用。显然，这种诉求在人们对政府的信任度较低时会更为强烈，这是因为员工希望另一个机构能够做正确的事情，并对公共结果产生一定的积极影响。

这种变化将商界领袖推到了一个全新的领域。我曾在西雅图参加了一个小型晚宴，当时一家科技公司的首席执行官总结了大家的担忧。“我觉得我已经为大部分工作做好了充分的准备，”他说道，并讲述了自己如何一步步晋升到今天的位置，“但现在我被推入了一个完全不同的领域。我真的不知道如何回应那些员工，他们希望我回应他们对移民问题、气候问题以及其他许多问题的关注。”

或许同样很自然的是，这种现象在我们最年轻的那一代员工身上也是最明显的。毕竟，大学校园里一直存在一个根深蒂固的传统，即学生热烈支持社会变革，有时甚至会推动他们所在的大学改变政策，从而引领变革。因为当时正是夏天，我们有大约3000名实习生在微软园区工作。他们毫不出人意料地对这个问题很感兴趣。尽管他们只是在暑假短期实习，但有些人仍希望能够直接影响公司的立场。

我们讨论了如何透彻思考这个话题并做出回应。当萨提亚和我交换意见时，我向他讲述了我在普林斯顿大学校董会任职期间学到的东西。“我认为领导一家科技公司越来越像领导一所大学，”我说道，“我们的研究人员有博士学位，他们就像教师一样。我们有实习生和年轻员工，他们的观点有时和大学生很相似。每个人都希望自己的声音被听到，有些人希望我们抵制某个政府机构，就像如果他们认为一家公司的行为令人反感，他们会希望大学抵制购买这家公司的股票一样。”

对我来说，我在大学校董会的任职经历给我带来了一些至关重要的收获。也许最重要的是，充满善意的学生可能并不知道所有问题的正确答案，但他们可能会提出正确的问题。这些问题可能会将我们带上一条专家和高层管理者都没有想到的更好道路。正如我想对公司内部的团队所说的，对一个不成熟想法的最好回应往往不是扼杀它，而是完善它。我们一些最好的项目就是这样得来的。这一点的基础是萨提亚一直在微软推崇的文化，而这种文化的根基则是成长性思维和持续不断地学习。简而言之，如果一个员工行动主义盛行的新时代即将到来，那么我们必须找到新的方式来与员工沟通，了解他们关注之事，并尝试找到一个深思熟虑的答案。

我还从自己在普林斯顿大学的任职经验中了解到，大学已经制定了一些有效的流程来满足这一需求。它们提供机会让每个人都能够畅所欲言，并进行更多合作性的讨论。通过帮助一个群体以充足的时间进行全面反思并做出艰难但正确的决定，从而让情绪渐渐消退，让理性占据上风。我们采取了这种策略，我们负责人工智能道德问题的高级律师——埃里克·霍维茨、弗兰克·肖和里奇·绍尔立即行动起来，开始举行一系列员工可以参加的圆桌会议。

有一点变得越来越重要，那就是阐明我们认为公司在什么时候有责任在公共问题上表明立场，什么时候不应该这样做。我们并不认为作为行业领袖意味着我们应该以公司的名义去应对全天下的所有问题。我们要应对的问题，总还是要和我们有一些重要联系。我们认为，我们的责任从根本上讲是应对可能在下列方面产生影响的公共问题：我们的客户及其对我们技术的使用，我们的员工（无论是在工作中，还是在其生活的社区中），我们的业务，以及我们的股东与合作伙伴的需求。虽然这并不能涵盖所有问题，但它可为与员工的讨论提供一个有用的框架。

员工提出的问题还以建设性的方式促使我们更加努力地思考我们与政府的关系，以及新兴技术（如人脸识别）带来的挑战。

一方面，我们并不认同某些建议，如我们应该以抵制政府机构（特别是在法治的民主国家）来应对当今一些重大事件。这在某种程度上是一种讲原则的反应。我经常提醒大家，我们不是别人选举出来的。希望科技公司来监管政府不仅感觉有些奇怪，而且并不民主。作为一个普遍的原则，要求一个民选政府监管公司似乎比要求一家非民选公司去监管政府更加明智。萨提亚和我经常讨论这一点，我们认为这很重要。

这样做还有一个务实的考虑。我们充分认识到，组织和个人都对我们的技术存在巨大依赖。如果我们仅仅因为反对某个政府机构正在做的事情就把我们的技术毙掉，那么将很容易引发混乱和意外的结果。

这种务实的态度终于在2018年8月以一种突然而鲜明的方式展现出它的重要意义。一个周五的早晨，我在开车去上班的路上收听了《纽约时报》每日播客的一篇报道，这篇报道直指问题的核心。当天讨论的问题是，政府无法在法庭规定的最后期限内让移民儿童与家人团聚。在收听报道时，我听出了温迪·扬的声音，她是公益组织“孩童需要辩护”（KidsinNeedofDefense）的负责人，我已经担任该组织的主席十多年。正如温迪解释的那样，政府实施了拆散家庭的政策，“但完全没有考虑日后如何使家庭团聚”。

我曾经与温迪就这种情况聊过几次，因而对此并不陌生，但《纽约时报》记者凯特琳·迪克森和安妮·科雷尔提供的另一个细节则令我大为震惊。她们解释说，当人们最初越境时，海关和边境保护局的官员使用一个带有下拉菜单的计算机系统对他们进行分类。官员们会将越境者分为无陪伴未成年人、成年个人或者有子女成年人（一个家庭单位）。当孩子后来与父母分离时，这一计算机系统的设计迫使官员们返回系统并更改他们的分类，例如，单独输入一个孩子的姓名作为无陪伴未成年人，并输入父母的姓名作为成年个人。关键问题是，这种操作会覆盖先前的数据，这意味着系统不再保留以前将所有家庭成员都列在一起的家庭单位记录。因此，政府将不再掌握任何家庭成员相互间有联系的整体记录。

末日求生  上班第一天，我拒绝了无偿加班！  魔王奶团敲凶哒  谢邀：人在迪迦刚成邪神  我的竹马是哭包  超能富豪养成计划  读美文库——再别康桥  村霸农女：傲娇夫君来种田  灵域战仙  末世：开局爆出一只貂蝉  莲静竹衣代表作品合集（共8册）  王牌狙击手（全5册）  全球神邸：我随机获得万界宝物  穿书之黑化反派自救手册  冲出豪门似鸟飞  紫金陈：少年股神（全2册）  百龙传奇：人龙传  知乎高赞答主：温酒的睡前故事（全2册）  夏元  替身的我和白月光互穿了