微软开发出可以帮助工程师在算法中捕捉偏差的工具

微软正在开发一种工具,可以检测人工智能算法中的偏差,目的是帮助企业使用人工智能,而不会冒着歧视某些人的风险。来自一份报告显示:Rich Caruana是微软偏差检测工具的高级研究员,他将其描述为一个“仪表板”,工程师可以将其应用于受过训练的AI模型。“透明性,可理解性和解释性等方面的内容对于该领域而言已经足够新颖了,以至于我们中很少人有足够的经验来了解我们应该寻找的一切,以及偏见可能潜藏在我们模型中的所有方式,”他对麻省理工学院技术评论说。算法中的偏见是一个越来越突出的问题。本周在波士顿举办的重新研究深度学习峰会上,哈佛大学机器学习教授兼罗德岛大学首席信息官Gabriele Fariello表示,AI领域的算法存在“重大的......问题”道德和偏见的今天。

  • 发表于:
  • 原文链接http://tech.slashdot.org/story/18/05/27/2339243/microsoft-developing-a-tool-to-help-engineers-catch-bias-in-algorithms
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券