人工智能的最后一英里问题

作者 | Ian Xiao

编译 | Flin

来源 | towardsdatascience

TLDR：最后一英里的问题是实现人工智能承诺价值的最后障碍。要获得人工智能系统的好处，需要的不仅仅是可靠的商业案例、执行良好的人工智能实现和强大的技术堆栈。它通常需要人工智能和人们的合作，以提供正确的体验给客户。但是，企业通常很难做好这一点。

许多分析强调了如何从管理人员和数据科学家的视角构建人工智能系统。取而代之的是，本案例研究使用个人轶事，从新的角度来看待这些问题：通过一线员工和客户的视角。我讨论了各种实用的解决方案，比如人工智能中的80-20条规则以及机器和人之间的顺利交接，以帮助团队克服现实世界中人工智能交付的最后一英里障碍。

首先，让我分享一个故事...

我的妻子杰西，最近和我去多伦多市中心的伊顿中心购物。杰西心情很好，因为她刚从公司组织的黑客竞赛（为期3天的构思和原型设计竞赛）回来。杰西是多伦多一家银行的财务顾问。我们停在一个供应商的摊位上更新我的电话计划时，她向我描述人工智能（AI）的想法和原型是多么的奇妙。

一位女士，名叫乔安妮，大概20出头，对我们表示欢迎，并提出了一些好的选择；我同意了她的一个建议。当乔安妮在处理这笔交易时，她转向杰西说：“看来你有一个特别优惠，你想听听吗？”

“当然！”杰西说。

乔安妮看了屏幕2秒钟说：“我们愿意为您提供10G数据，每月75美元。这是一笔了不起的交易！”

杰西看起来很困惑，说：“这没道理。我只需为相同数量的数据和服务支付65美元。”

我们大家都笑了，以消除尴尬。乔安妮回去完成我的交易。我们5分钟后就走了。

在我们回家的路上，杰西提到人工智能是多么令人失望，并开玩笑说大公司做不好，错过了一个销售机会。她说，她在hackathon上看到的人工智能原型功能更强大。

我说：“好吧，这就是现实世界中的AI与实验室之间的区别”。最后，她对我说的话印象深刻。

「让我们先了解一下人工智能系统的背景和定义」，然后再将我们的经验进行分解，以强调人工智能系统的一些常见问题。如果你熟悉这个概念，可以跳过这个。

「杰西的提议是如何产生的？」 在这个故事中，乔安妮提出的报价是由推荐系统（RS）生成的。

RS通过分析客户行为并提供个性化的产品和服务来推动销售。有些销售代表依靠一种叫做「协同过滤」的机器学习算法来决定什么样的产品能为客户提供最好的服务；有些销售代表依靠更简单的算法，如逻辑回归或基于规则的方法，而有些则使用更高级的算法，如深度强化学习。亚马逊和许多电子商务和数字公司都是RS的早期采用者。许多传统企业(如电信和银行)紧随其后，正在探索自己的道路。

「什么是人工智能系统?」 RS是人工智能系统的一个例子。更具体地说，人工智能系统是全栈解决方案（如前端和后端），通过使用大数据技术处理大量数据并基于自主机器学习算法选择适当的交互，为用户提供上下文感知体验。

人工智能系统和传统软件解决方案之间有一些明显的区别。这里最重要的一点是：人工智能系统与用户的交互是基于自主的、持续的学习和决策，而不是遵循一套由设计师和工程师预先设计的静态规则。

让我们把这些点联系起来。在这个故事中，RS认识到乔安妮（一个最终用户）正在与杰西和我讨论产品变更（上下文感知）；它提供了一个乔安妮可以分享的提议（基于大数据和机器学习的交互）。考虑到另一个客户和环境（例如，打电话投诉服务，而不是考虑产品变更），报价可能会有所不同。RS是一个完整的堆栈解决方案，因为它有一个前端接口与乔安妮交互，后端支持数据存储、机器学习和系统集成。

人工智能系统还有很多其他的例子，比如自动驾驶汽车、机器人顾问、Alpha Go、Siri、波士顿动力公司的机器人、Roomba等。

这个故事强调了人工智能系统在现实世界中失败的一些常见方式。让我们一起来把它分解。

1. 「错误的互动」：要求顾客为同样的服务多付10美元是没有意义的。我不相信任何营销和顾客行为理论会支持这个提议。
2. 「执行力差」：尽管乔安妮训练有素，能力出众，风度翩翩，但她显然不明白人工智能系统为什么提出这个提议，因此，不能正确地执行这个提议（即使它意味着不执行）。
3. 「缺乏反馈回路」：在我们都意识到这个提议没有意义之后，乔安妮只是简单地完成了我的交易，没有向人工智能系统提供任何反馈来帮助它学习。质量反馈对于任何人工智能系统的长期成功至关重要。

这个例子突出了一个基本的和共同的问题：人类和人工智能系统之间的脱节。人工智能协作是人工智能系统的最后一英里问题。

用户体验设计师可能会争辩说，这只是一个设计糟糕的典型解决方案。应用界面设计的设计思想和最佳实践可以解决这个问题。对，但只是在某种程度上。自主互动的独特性要求我们深入思考。如果我们不能完全控制和理解来自人工智能系统的响应，那么我们如何预先设计用户交互的关键？

那么，有什么解决办法呢？在这里，我提出了一些战术解决方案，以帮助公司最大限度地实现人工智能系统的承诺。

1. 从错误到正确（或更好）的互动

要求人工智能系统100%地提供正确答案是不可能的，无论是在数学上还是在实践中。因此，我们最好的目标是通过合理的投资来获得足够正确的答案。为了做到这一点，我建议探索以下几点：

• 「确定80–20 AI救援计划」。80-20是一个众所周知的概念和商业公理；它强调了一个普遍的观察结论，即20%的工作导致80%的结果。使用80-20的心态来简化解决方案是至关重要的；这样做有助于避免启动错误的人工智能系统和损害客户体验（杰西的例子）。显然，当人工智能系统提供不合理的建议时，某些技术性的东西就被打破了。过于复杂的设计是一个常见的问题。一组数据科学家可以问：1）要达到80%的准确率，最简单的设计是什么？2） 结果是否足够好以实现承诺的商业价值？3）有哪些更先进的技术可以捕捉到接下来的2%、5%和10%？尽管对复杂的人工智能技术(如深度学习和强化学习)大肆宣传，但并不是所有人都需要在第一天就使用它们。简单的数据挖掘技术，如关联规则，可能能够捕获大部分客户动态，并在早期提供足够好的结果。

• 「应用商业规则来保护」。由于机器学习模型肯定会有错误，因此对于质量保证来说，增加一层业务规则是必不可少的。例如，基于业务领域知识的简单规则可以是这样的：1）在没有额外有意义的服务的情况下不提供更昂贵的软件包；2）抑制可能导致收入损失的过度折扣优惠。避免复杂的规则是很重要的。它们可能会破坏最初制造人工智能系统的目的，最终只注重性能上的好坏。有经验的工作人员和业务一线的管理人员都要确定这些规则。这就引出了下一个建议。
• 「使用合适的专家检查是否正常」。人工智能系统通常由企业高管和数据科学家设想。拥有足够技术马力的顶级支持对于成功启动人工智能系统至关重要。然而，当涉及到使用旨在提供更好的客户互动的系统时，一线专家知道得最清楚，并且有最深刻的观察。因此，重要的是，尽管一线员工可能不是技术专家，但也要让他们参与进来。

2. 从糟糕的执行力到更好的执行力

大多数人工智能系统在某一时刻都依赖于人的行为，良好的执行力是实现预期商业价值的关键。好的执行力归结为一个组成部分：机器和人之间的顺利交接。为了实现顺利的交接，人工智能系统和人类都需要合作…

• 「提供关于做什么、为什么和怎么做的说明」。数据科学家花费大量时间对算法进行微调，但往往忽略了为帮助人类工作人员取得成功提供必要的信息。关键是让人工智能系统能够解释为什么会提供某些建议，并分享简单的指令供人类员工遵循。一个简单的what-why-how模板可以做到这一点，见下面的一个例子；这个想法最初是由Simon Sinek为领导力激励演讲提出的。
• 「提高技术人员与人工智能系统的协作能力」。能够使用技术是许多入职培训的重要组成部分。但今天还不够。例如，人工智能系统不同于传统的客户关系管理（CRM）应用程序。基于他们的学习和见解，人工智能系统可能会提供对员工来说并不明显的建议。 也就是说，人类的员工需要在更高的认知水平上进行理解、消化和挑战（如果需要的话）；员工不能也不应该盲目地听从指令。员工应将人工智能系统视为合作伙伴，与之合作、挑战和培养。

想象一下：RS提供了三条简单的线路，乔安妮可以在不到10秒（甚至更短）的时间内消化和理解它们…

• 做什么：建议10GB数据计划升级和新手机退款，每月70美元
• 为什么这样做：客户（杰西）已经使用我们的服务超过10年；根据她个人资料中的类似客户，她可能会感兴趣，而且她对每月储蓄的反应也很好
• 如何做：告诉杰西你欣赏她的业务超过10年，你想提供一个其他忠诚客户赞赏的好交易；每月节省25%（或者这可以是一个预先填充的脚本，但根据杰西的个人资料进行了定制修改）

与人工智能系统合作更为复杂，但回报——企业的物质利益，以及更敬业、更有价值的员工——是值得的。

3. 从麻烦到积极的反馈机制

最后，人工智能系统的真正力量来自它们学习和改进的能力。然而，如果没有来自环境的有意义的反馈，他们是做不到的，在这种情况下，一线员工就是如此。有意义的反馈是指描述客户行为原因的信息。由于用户界面笨拙，缺乏激励，许多一线员工忽视了捕捉和分享这些信息的机会。这里有几个简单的注意事项…

• 「开发一个简单有趣的反馈用户界面」。有两个关键考虑因素。首先，用户界面需要简单，这样员工就可以轻松准确地输入信息，这样他们就不会拒绝这样做。最重要的信息是为什么客户没有响应建议。第二，游戏化，比如使用徽章和健康的同行竞争，可以帮助鼓励和推动员工提供高质量的反馈，而不是被迫努力。这就是CRM管理中的传统技巧仍然有效的地方。
• 「提供输入质量反馈的激励」。现实地说，很难期望员工多做一点，因为许多人已经被照常的任务和目标压得喘不过气来。因此，有具体的激励措施是推动行为改变的最佳解决方案。例如，团队可以设立排行榜和“本月最佳人工智能培训师”的奖项，或者在年度绩效评估中确定一个类似的目标。

一旦反馈被捕获，数据科学团队需要将其与人工智能系统的学习机制联系起来。从技术角度来看，这是一个棘手的问题，在处理时间上有很多考虑因素。通过不断学习和改进用户的系统中的缺陷，可以不断地改进人工智能系统。更有意义的反馈会带来更智能的人工智能系统，可以提供指数级的商业利益。

通过探索和实现这些考虑因素，其好处是可以增加 AI 系统成功的可能性，尤其是当它们与现实世界中的人类互动时。

尾注

RS的例子仅仅揭示了AI系统的一些具有代表性的问题。随着人工智能的投资转化为现实世界的解决方案——许多一线员工和客户会有密切互动的企业应该停下来，彻底检查他们对人类与人工智能协作经验的思考。。

另外，请记住，技术开发中的许多最佳实践，例如“从小处开始并进行迭代”和“以用户为中心”，仍然适用。

要实现人工智能暖心的承诺，克服最后一英里的问题至关重要。早期的轻量级解决方案可以改善交互、执行和反馈机制，从而帮助公司避免在现实世界中部署人工智能系统时遇到重大挫折。

原文链接：https://towardsdatascience.com/fixing-the-last-mile-problems-of-deploying-ai-systems-in-the-real-world-4f1aab0ea10