微软开发出可以帮助工程师在算法中捕捉偏差的工具

微软正在开发一种工具，可以检测人工智能算法中的偏差，目的是帮助企业使用人工智能，而不会冒着歧视某些人的风险。来自一份报告显示：Rich Caruana是微软偏差检测工具的高级研究员，他将其描述为一个“仪表板”，工程师可以将其应用于受过训练的AI模型。“透明性，可理解性和解释性等方面的内容对于该领域而言已经足够新颖了，以至于我们中很少人有足够的经验来了解我们应该寻找的一切，以及偏见可能潜藏在我们模型中的所有方式，”他对麻省理工学院技术评论说。算法中的偏见是一个越来越突出的问题。本周在波士顿举办的重新研究深度学习峰会上，哈佛大学机器学习教授兼罗德岛大学首席信息官Gabriele Fariello表示，AI领域的算法存在“重大的......问题”道德和偏见的今天。