谷歌前员工如何看待“不作恶”？

作者|Sergey Surkov
译者|Liu Zhiyong
编辑|Chen Lixin

AI前线导读： 究竟什么是“好”的人工智能？殊不知，那些让你倍感快乐、愉悦的人工智能，并不是“好”的人工智能。这样的人工智能，我们不要也罢。我们需要的是，像阿拉丁神灯那样的人工智能，召之即来挥之即去，而不是让人工智能越俎代庖替人们把所有的事都干了，失去了对生活的控制权。随着欧盟推行GDPR，隐私权成了一个绕不开的坎儿。我们来听听Google前员工是如何看待“不作恶”的？

前几天，我和两位好友共进晚餐，他们是Google的前雇员。在这次聚餐中我发现自己居然批评了Google，我以前的立场可不是这样的。俱往矣，我在Google供职有三年了，这三年里的大部分时光都是美好的回忆：同事很聪明，他们善于思考算法，还有大规模的基础设施，很酷的技术讲座，还有，偶尔能吃到牡蛎。我们当然认为自己是好人，我们认真考虑如何使搜索更好用，如何对用户数据采取合理的预防措施，并为我们的数据驱动决策而感到自豪。我自认这些在过去十年来没有任何变化。这些日子里，我看到前同事更多地谈论绩效工资和晋升，而不是谈论他们的工作有多酷，但我仍然认为，Google的基本原则没有变：Google视自己为好人。那么我的问题究竟是什么呢？

那天晚上我们讨论了GDPR。这个让人昏昏欲睡的首字母缩写是欧盟想要确保用户隐私得到尊重的方式。尽管它涵盖的是欧盟，但实际上，它适用于全球的数据，因此，它必然会给Google这样的科技巨头带来很多痛苦。我个人认为，GDPR出发点是好的，但是我认为，它基于清单的合规性并不是很有用：它太容易被误解、遗忘、误导、伪造等等，只有当一个诡计被揭露时才会发生，也就是损害已经发生了。Google和Amazon被迫每年向媒体提供一次这样的机会：由工程师回答直接与隐私相关的问题而不必担心被解雇或因违反NDA被起诉，这种做法非常有效。这就是你所拥有的权益：零纳税人支出；偶尔有趣的故事，媲美中国春晚的年度兴奋，以及卓越的用户隐私。这就是真正的美国！

GDPR迫使我们查看它所涵盖的用户数据，这就是我开始抱怨的地方。因为我强烈感觉到，很多数据本来就不应该存在。我试图让我的房子远离物联网，或者禁止FSM（一个智能助手）。我曾经犹豫地让草坪浇水控制器Rachio进入了我的房间，结果我那间无人看管的房间发生了长达数小时的水漫金山，并且有可能在空闲时间内侵入Hillary的电子邮件。但是我更担心的是，物联网，就像科技巨头最近一直强行施加我身上的其他东西一样，不会做任何我自己做不到的事情，但它确实剥夺了我对生活的控制权。我不需要Alexa来帮我订货。我不乐意Google听到我的问题。实际上，我压根就不想让它听到。我可以打字与Google交互，如果可以那样做，我得好好谢谢Google。

我得到的回复是，“没人逼你买Alexa，你爱买不买，反正那些买的人，都喜欢Alexa”。这是一个非常危险的简化。首先，这不是完全正确的。比如，三星智能电视现在有一个麦克风，鬼知道它什么时候会开启。我特么的不想要麦克风，我想要的只不过是一台电视机；而他们却把麦克风强加给我了。当你在屋顶安装太阳能电池板的时候，Elon Musk的SolarCity给你发了Nest恒温器的广告：“250美刀！”当你拒绝的时候，很难不会感到真正的损失。Nest确实很漂亮，拥有“真实”的重量，而且很方便。它收集关于你的数据，还有在线助手，比如你在LinkedIn聊天或者Gmail的固定回复。我从来就没有要求过它们，但它们仍然在那里不断地提醒我，有一台机器的大脑正在阅读我所写的每一个字，并试着去理解。也许我的电子邮件被开发和评估这项技术的人员阅读了。

真正邪恶的部分在于“人们喜欢购买它”。这是真的，毕竟，用户满意度就是Google优化追求的目标。我们已经越来越依赖Google而不是我们自己的记忆力。这一言论早在2010年就很流行了：Google能够让你变得更聪明！也许这就是事实吧，但是也许我们的心智能力不断外包给搜索引擎并不会让我们变得更愚蠢，而是以某种方式重新分配新的认知资源。至少我能够看到争论的这一面。但是绝对没有任何理由可以让温柔的、便利的智能助理占据我们生活的中心，引导它们按照主人的喜好来行事。Google仍然是一家优秀的公司：聪明的员工、聪明的算法、数据驱动的决策、优先考虑用户利益。然而，不知何故，这家优秀的公司现在却正在制造邪恶的产品。它发现，让我们满意的最好办法的就是从我们手中夺走控制权。

如果我们追踪了Google的目标函数的梯度，很容易看出Google的理想用户是完全放弃ta的控制权的那个人。Google会拿起ta的手机，写一封电子邮件，在Facebook上聊天，并申请那个早该得到的促销活动。在那里，一个人甚至不是可选的，ta是一个障碍，不确定的来源。虽然这样会增加股东的价值，但我不觉得我们需要赞同这一点。我宁愿从无所不知的Google那儿学会如何写一篇优秀的博文，让我自己来写。

我相信，把快乐和用户满意度强加给我们，是科技巨头以我们为代价做出的选择。但它不一定非要这样做不可。人工智能的应用领域有很多，都是为人民服务的。一个人工智能完全按照被告知的内容执行工作，并且在用户为特定目的的明确调用之前保持静默状态。像阿拉丁神灯的人工智能，不要告诉我人们会不想要它。当它执行得很好的时候，人就喜欢控制它。人们之所以喜欢WhatsApp，是因为它完全符合其承诺。人们喜欢Slack，因为他们可以控制哪些信息流向哪些渠道。Unix工程师喜欢命令行，因为它简洁、精确，功能强大，而且明确。像阿拉丁神灯那样的人工智能就应该这样！

原文链接： Don’t be AI-vil
https://blog.sourcerer.io/dont-be-ai-vil-225a531d599b