专栏首页ATYUN订阅号3个方法减少AI聊天机器人程序中存在的偏见

3个方法减少AI聊天机器人程序中存在的偏见

AiTechYun

编辑:chux

使用自然语言处理的人工智能聊天机器人几乎应用到了所有行业中。一个实际的应用是提供动态的客户支持,使用户能够提出问题并获得高度相关的响应。例如,在医疗保健方面,一位顾客可能会问“我今年体检费是多少?”,另一位顾客可能会问“医生看病要多少钱?”一个训练有素的聊天智能会明白这两个问题都有类似的含义并根据可用数据提供相关的答案。

许多人没有意识到,人工智能动力聊天机器人就像孩子一样:他们通过实例学习。就像早期开发时孩子的大脑一样,人工智能系统的设计目的是处理大量的数据,以形成关于世界的预测并据此采取行动。人工智能解决方案由人类进行培训,并根据经验合成模式。然而,人类社会固有的许多模式是我们不想强化的,例如社会偏见。我们如何设计不仅智能而且平等的机器学习系统?

机器人和其他人工智能解决方案现在可以帮助人类在每个行业中完成数千项任务,偏见可能会限制消费者访问关键信息和资源。在卫生保健领域,消除偏见是至关重要的。我们必须确保所有人,包括少数民族和代表性不足人群中的所有人,都能利用我们创造的工具为他们节省资金,保持健康并在最需要时帮助他们找到护理。

那么,解决方案是什么?基于研究者用IBM Watson四年多的训练经验,你可以考虑以下建议来最大限度地减少人工智能应用程序中的偏见:

1.仔细考虑你的数据策略

当谈到训练时,人工智能工程师可以做出选择。这些决定不仅是技术性的,而且是道德的。如果我们的训练示例不代表我们的用户,那么当我们的应用程序将其应用到现实世界时,我们的系统准确度会很低。

创建包含多种示例的训练集可能听起来很简单,但如果不小心就很容易忽略。你可能需要用自己的方式来查找或创建具有各种人口统计特征的数据集。在某些情况下,我们还希望通过实际使用的数据示例来训练我们的机器人,而不是依赖于削减过的数据集。但是,如果我们的真实用户不能囊括所有人群,我们该怎么办?

我们可以采取自由放任的方式,让自然趋势指导发展,而无需编辑数据。这种方法的好处是可以优化普通用户群的性能。但是,这可能会以牺牲代表性不足的人口为代价,我们不想忽视这一点。例如,如果大多数与聊天机器人交互的用户年龄在65岁以下,机器人就会忽略关于仅适用于65岁以上人群的医疗服务,如骨质疏松症筛查和跌倒预防咨询。如果机器人只接受真正的互动训练,而没有额外的指导,那么它在关于这些服务的问题上可能表现不佳,这会让那些需要这些信息的老年人感到不便。

为了解决这个问题,我们创建合成训练问题或寻找其他数据来源,以了解有关骨质疏松症筛查和跌倒预防咨询的问题。通过数据包括更多的分布和代表性,机器人学习更广泛的主题,而不会遗漏少数用户人群的利益。

2.鼓励一组具有代表性的用户

我们无法完全控制谁与聊天机器人进行交互,但我们可以确保它对所有人群适用,并消除妨碍所有人群平等使用的障碍。

以前面的例子设想,大多数用户都在65岁以下。也许我们也可以添加设计选项(比如更大的文本),这样可以让老年人更容易使用该工具。在设计我们的人工智能解决方案时,我们可能会发现许多其他方法来调整内容,用户体验,市场营销和基本功能,这样聊天机器人将服务其他人员。

然而,即使拥有各种各样的真实用户,公司也可能冒着引入训练和开发团队的无意识偏见的风险。为了尽量减少这种风险,在设计过程中考虑各种各样的观点至关重要。所以我要提出最终建议——

3.创建一个多元化的开发团队

如果一个全面而多样的团队来做决策,那么不太可能在系统中引入新的偏见。但开发团队的多元化仍然是一个挑战,尤其是在人工智能领域。我们如何打破进入该领域的障碍?

我的一些团队成员在数据科学,编程和语言技术方面拥有传统的人工智能背景,但我们团队中一些最关键的成员来自非技术背景。我们愿意相互学习,我们经常发现,我们的每一个观点都为机器人提供了独特的东西。你不必成为机器学习专家,也对人工智能团队很有价值。如果你想成为一名机器学习专家,那么你也可以慢慢学习。

创造一个鼓励进步的环境,并赋予各阶层人士参与发展的能力是很重要的。在竞争激烈的商业世界中,它有时会违背我们所有的自然本能,但事实是共享知识是成功的最快捷的途径,无论是产品还是创造它的人。人工智能是每个人都可以踏入的领域。

IBM设计研究人员EllenKolstø在关于Epic People的文章中指出:“虽然人工智能是关于机器的,但人工智能的构建过程的关注点却在人类身上。”当我们设计人工智能系统时,我们经常做出非常人性化的选择。如果我们的机器人通过实例学习,那么我们有责任树立一个好榜样。通过创建具有代表性的训练集,使开发团队多样化,并使机器人适用于各种背景和人口统计的人员,我们可以减少内在的偏见并培育平等主义的人工智能。

本文分享自微信公众号 - ATYUN订阅号(atyun_com)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-06-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 【AI发展】看!世界各国都在积极布局人工智能

    人工智能是引领未来的战略性技术,世界主要发达国家将人工智能作为提升本国竞争力的重大战略,围绕顶尖人才和核心技术等进行部署,力争在新一轮的科技竞争中取得主导权,从...

    AiTechYun
  • AI将为消费者隐私提供保护,而不是威胁。

    人工智能的应用正在飞速发展。根据世界知识产权组织(WIPO)的数据,与人工智能相关的专利申请量在2013年至2017年间增加了近三倍,达到55000多件。专利活...

    AiTechYun
  • 在医疗领域,人工智能带来的不只是机遇

    在过去的五年中,美国食品和药物管理局已经批准了40多种不同的人工智能产品。然而,据《科学美国人》报道,所有在美国销售的产品都没有经过随机对照临床试验的性能评估。

    AiTechYun
  • 2020科幻元年来了!面对愈发智能的机器,人类“最强大脑”有哪些建议?

    1982年《银翼杀手》上映,电影中幻想着37年后的世界。现在是2019年12月,洛杉矶一切正常,我们没有被“复制人”所带来的伦理问题所困扰,也没有拥有赛博朋克化...

    大数据文摘
  • 【人工智能≠类人智能】超越图灵测试的世界观

    I.人们对于人工智能这个热点话题仍说法各异。 像史蒂芬·霍金、伊隆·马斯克、比尔·盖茨这样的专家,最近越发看重它的潜力和威胁。在读完尼克·博斯特伦《超级人工智能...

    新智元
  • 【人工智能≠类人智能】超越图灵测试的世界观

    I.人们对于人工智能这个热点话题仍说法各异。 像史蒂芬·霍金、伊隆·马斯克、比尔·盖茨这样的专家,最近越发看重它的潜力和威胁。在读完尼克·博斯特伦《超级人工智能...

    新智元
  • 关于人工智能,麦肯锡五问专家

    麦肯锡发布了其对人工智能业内专家的访谈记录,多位专家就以下五个问题分享了自己的观点。 Q:当前推动人工智能发展的动力有哪些? 全球对冲基金巨头城堡公司(Cita...

    人工智能快报
  • 中美:人工智能将形成“双寡头”局面?

    “如果说2017年是人工智能在中国引起骚动的一年,那么2018年将成为中国在人工智能领域竞争地位越来越明显的一年。” 比如,人工智能迅速成为中国创业公司最热门的...

    机器人网
  • 从起源到未来:能自己编程和改进的超人工智能会出现吗?

    在计算机科学领域中,人工智能是一种机器表现的行为,这种行为能以与人类智能相似的方式对环境做出反应并尽可能提高自己达成目的的概率。

    华章科技
  • 人工智能行业应用

    只要提到人工智能,就会让人联想到终结者机器毁灭世界的画面。值得庆幸的是,目前的情况要积极得多。所以,让我们来探索人工智能是如何帮助我们改造世界,并最终造福人类的...

    程序你好

扫码关注云+社区

领取腾讯云代金券