能帮美国总统夫人对抗网络霸凌的可能只有人工智能了

源venturebeat译翟向洋

只要存在权力失衡、不安全因素和人类之间的竞争，就会存在恶霸。如果问近十年有什么地方是这样的，毫无疑问，这个地方就是——互联网。

在网上，数字时代将这一动态放大到了极限，网络恶霸们有了越来越多的途径来威胁他们的目标人群。霸凌曾经局限于学校，但今天的孩子们（和一些成年人）已经把这种霸凌带到了每个角落。手机、电脑、平板电脑和其他任何可以与网络连接，网络身份与我们的物理身体完全无法交织的地方，都无时无刻不发生着这些欺凌。

网络霸凌是一个严重的问题，它已经夺去了太多的生命和神智，然而互联网的日益普及不但对这个问题没有帮助反而使状况越来越糟。网络对我们日常生活的影响不会很快消失。因此助长欺凌的技术也是解决方案中要考虑的。

谁和什么可以驱使这份力量向好处发展呢？这里有个大胆的设想：美国第一夫人+人工智能。

使用机器人与网上霸凌作斗争

早些时候，美国第一夫人——梅拉尼亚·特朗普（Melania Trump）提出将网络欺凌作为一个基准问题，今年 9 月份，在联合国演讲时她重返到这一行列。具有讽刺意味的是，总统在网上的糟糕言论从来没停止过，但是用梅拉尼亚自己的话来讲，她还是希望能利用自己的优势来有所作为。

梅拉尼亚会不会考虑用科技来对付科技呢？

使用AI作为一种在线识别谩骂的方式是一件惊人的想法，但它听起来并没有那么牵强。在把 AI 作为一种帮助人类而不是伤害人类的事物时，却忽略了解决网络欺凌问题的机会，那么这对AI真是一种耻辱。

这将如何工作呢？目前，识别和惩罚在线谩骂的负担落在了负责人身上，这些人中鲜有抓住每一个例子的。理论上来说，一台机器实践越多就会越有效。正如 Wired 解释的那样：“如果一台电脑足够聪明，在网络欺凌刚发生就发现了它，这样网络欺凌就会被更快地阻止，而且也不会有人类做这项工作的感情和经济成本。”

尽管我们处在揭示 AI 潜力的开端，但 AI 已经足够先进来应对这些了。今天的机器可以驱动汽车，创建美食，诊断疾病等等。自我适应还是一个相对简单的工作呢，所以这项技术正在顺利进行也就不足为奇了。事实上，许多企业正在做出尝试。

在SRI International——虚拟助手Siri的诞生地，研究人员正在开发智能软件，它们可以快速并准确地检测和标记在线谩骂行为。在这个问题上，一家不知名的社交媒体公司已经向他们寻求帮助。该公司收集整理了大量的数据以显示问题的广泛性; 它希望 SRI 够识别并遏制所有类型的网络霸凌行为。这存在复杂性：例如，扫描诅咒词很容易，但理解上下文并不容易。通过用识别出来的恶言恶语的例子来训练一台机器，它可以学习辨别笑话和嘲讽，并识别谩骂的模式。

该技术的原型只需要半年到一年就可以训练好。

SRI 并不是唯一一家有反欺凌 AI 的公司。总部位于悉尼的软件开发公司 KevTech Apps 已经在市场上推出了名为 SafeKidsPro 的产品。它使用模拟大脑功能的算法来识别信息的意图和严重性，并推断这条信息使接收者感觉如何。如果他们的孩子是欺凌的受害者或欺凌者，它可以通知父母，还可以识别掠夺性的行为。

我们有希望吗？

当然，这种技术的实施可能会导致更聪明更隐秘的恶霸。这也引出了一些关于审查的严重问题，和与不受欢迎的意见相对的欺凌由什么组成的问题。无论如何，梅拉尼亚可以支持开发和测试类似技术的初步行动。作为一个工具，AI推动的软件将帮助家庭保护孩子，并帮助公司遏制仇恨言论。它还可以帮助确定网上的恐怖主义招募，还有一些总统可能会觉得有用的东西。如果你怀疑这是否可能，可以考虑奥巴马总统，他为白宫参与高科技事务开了先例。在他施政期间，在一份报告中明确指出，政策制定者应该参与到 AI 的发展过程中来，推动AI作为一种协助的工具来使用，控制其潜在的不利因素。特朗普总统是否会提升AI的优先权还有待观察，但他肯定是明智的，不会遏制诸如工作自动化等紧迫问题的结果。

正如梅拉尼亚在演讲中所说，“作为成人，对于网络霸凌等影响世界儿童的问题，我们不仅仅有责任，还要负责任”。这意味着探索一切的可能性，让事情变得更好，利用可用的最佳的创新来促进网络上和网络之外的善意——无论你的丈夫正在发什么样的推特。

-END-

译者 翟向洋

北京理工大学研究生一枚，吃瓜群众，热爱学习。

了解如何加入我们