首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Facebook推AI新技术:能自动锁定有自杀倾向的用户

去年7月,一位Facebook安全团队的成员打电话给911中心的调度员称,当地一位居民需要紧急救助,有一位女性在她的Facebook上发出了自杀的信息,好在最后当地的警察进行了及时的救助。

Facebook称,“这能够帮助我们提升公共安全。我们不会干预人们的私生活,但是如果出现危险我们就会介入。”

多年以来,Facebook都允许内部审核人员对自杀内容进行审查,并且决定是否需要通过自杀预防热线为用户提供帮助,或者在紧急情况下让公司的法律反应团队介入。

随着技术的不断发展,对于Facebook来说必然存在一种工程学方案来应对自杀行为。

为了能够及时的监控自杀的信息,Facebook在2017年就成立了相应的识别技术,能够自动识别标记涉及自杀意图的帖子,供公司审查员进行分析。

据Facebook称,这个新系统标记的涉及自杀想法的帖子数量已经提升了20倍,收到Facebook自杀预防系统帮助的人数也增加了两倍。

公司也一直在对系统的语言和Instagram的自杀预防系统进行升级,特别是在2018年2月,加入了人工智能系统,识别效率陡然提升。

自杀预防也是谷歌和微软正在进行的事情。比如说,如果有人用谷歌搜索“我想自杀”,就会出现国家自杀预防热线的电话号码。微软则会在搜索结果中显示救助中心的信息,并且让用户在Xbox线上服务上报自残信息。

- END -

图 / 网络

文 / 网络

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180224B0JLOQ00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券