Engadget Google能遵守其建立道德AI的承诺吗？

谷歌与美国国防部合作为美军的战地无人机编制人工智能系统，名为Project Maven，这对该技术公司来说是一把双刃剑。一方面，国防部合同非常有利可图，每年价值高达2.5亿美元。

另一方面，公众正在帮助政府建立更有效的杀人机器的消息立即，毫不动摇，毫不留情地遭到公众的强烈反对。有十几名员工因公司抗议离职，另有4000名申请管理人员直接终止合同。哗然如此震耳欲聋，谷歌不得不出面并承诺明年完成交易。

现在，Sundar Pichai进一步安抚公众，释放他自己版本的阿西莫夫的“三定律”。当然，谷歌对AI景观并不陌生。该公司已经在其多种产品中利用了各种形式的AI，从Gmail和Photos到沙龙呼叫数字助理以及允许助理发言的波形生成系统。但是，如果一家公司单方面从平常的实践中单方面取消了“不作恶”的指导原则，那么真正值得信赖的做法是在将人工头脑提升到成熟期时做正确的事情吗？

1.对社会有益。

Pichai的第一点似乎是每个人都可以轻易落后。我的意思是，如果不能为整个社会的更大利益服务，开发新技术有什么意义？不幸的是，Pichai在他的文章中没有涉及任何可观的细节，所以很难说明这实际上意味着什么。

“在我们考虑AI技术的潜在开发和使用时，”他写道，“我们将考虑范围广泛的社会和经济因素，并且将在我们认为整体可能的收益大大超过可预见的风险和缺点的情况下继续。 “ 这听起来很不错，但实际上谁决定哪些风险超过哪些可能的好处？例如，周三，该公司的股东拒绝了提高公司多元化程度的计划，该计划得到了Google普通员工广泛支持。我们是否会相信这些股东会以避免社会陷阱为名违背他们的财务自利？资本主义的历史说不。

2.避免制造或加强不公平的偏见。

“我们将努力避免对人们造成不公正的影响，”皮季写道，“尤其是与种族，民族，性别，国籍，收入，性取向，能力以及政治或宗教信仰等敏感特征有关的人。” 如果Google能够在不给予隐含偏见的情况下培训人工智能，他们实际上是唯一能够这样做的公司。请参阅：Beauty.AI选美机器人，微软的Tay，微软的Zo，以及迄今为止创建的每个面部识别AI。

3.建立并测试安全性。

“我们将设计我们的AI系统时应保持谨慎，”Pichai写道，“并根据人工智能安全研究的最佳实践寻求发展它们。” 这是Google可以轻松保留的一个承诺。例如，Maven项目获得开源许可，从而使透明度远远超过其他方式。更重要的是，Google已经与众多AI研究机构合作，其中包括机器智能研究机构，该机构专注于人工智能安全流程和DeepMind道德与社会它试图探索人工智能的道德规范。只要Google仍然致力于展示自己的工作，而不是“快速行动，打破东西”，我就没有看到为什么公司不能成为安全可靠的人工智能开发的标准承担者的原因。

4.对人负责。

“我们的AI技术将受到适当的人类指导和控制，”Pichai写道。是的，是的，侏罗纪公园里的所有恐龙都应该是女性。这种断言的麻烦与我们国家的核武库非常相似，技术本身不是问题，而是有权使用它的人。

5.纳入隐私设计原则。

鉴于Facebook在剑桥Analytica丑闻之后的表现如何，只有谷歌将自己描绘成隐私的典范才有意义。不幸的是，该公司的历史行为并没有太多支持这一说法。Google目前在英国通过Safari浏览器收集个人用户数据时面临集体诉讼。美国参议员正请求FTC调查该公司收集的位置数据。据称 YouTube正在收集 13岁以下儿童的数据。

6.坚持科学卓越的高标准。

“我们追求高标准的科学卓越，因为我们致力于推动人工智能的发展，”Pichai写道。“我们将负责任地分享人工智能知识，发布教育材料，最佳实践和研究，使更多人能够开发有用的AI应用程序。”

就像上面的第三点一样，这应该是公司坚持不懈的理由。不像更多像苹果或Facebook这样的秘密公司，谷歌一直在研究努力前沿。谷歌已经在英国和加拿大开设了人工智能研究机构，并为他们配备了学术研究人员，与加州大学伯克利分校，哈佛大学和麻省理工学院等大学大学合作，甚至与其他科技公司合作制定道德发展指导方针，作为人工智能伙伴关系的一部分。

7.提供符合这些原则的用途。

从本质上讲，Pichai声称他的公司只会开发符合前六点所列道德框架的AI。他承诺Google会根据技术的性质和主要用途，其预期规模以及Google参与项目的性质，“努力限制其构建的机器的潜在有害或滥用应用程序”。他特别引用了自主武器，监视AI，“目标违反了广泛接受的国际法和人权原则的技术”，以及“导致或可能造成总体伤害的技术”。当然，公司如何确定什么是可接受的危害水平，就像上面的第1点一样，还有待观察。

总而言之，这些都是一些伟大的听起来的公理。但是Pichai没有阐述的是，是否存在任何形式的执法机制，或者如果违反这些指导方针，公司会采取什么种类的处罚。因为在机器人起义的引导下，有智力的AI滑过界限并压制人性，因此没有任何数量的mea culpas，道歉游览或参议院监督委员会的露面就足够了。