苹果 AI 工具将“种族主义者”误解为“特朗普”

苹果的语音转文字工具近日面临批评，用户发现，当他们在 iPhone 上口述“racist”（种族主义者）时，系统会将其转录为“Trump”（特朗普）。这一问题在社交媒体上曝光后，引发了关于 AI 偏见、软件可靠性以及苹果语音识别技术准确性的讨论。

苹果公司已承认此问题，并向用户保证正在推出修复方案。然而，一些专家对苹果的解释持怀疑态度，并质疑这是简单的技术故障，还是人为干预的结果。

问题出在哪里？

苹果将此问题归因于其语音识别模型的缺陷，具体而言，公司表示系统在处理包含字母“r”的单词时存在困难。

“我们已经意识到语音识别模型在 Dictation（语音输入）功能中的错误，并正在推出修复方案。”苹果公司发言人表示。

然而，语音识别专家对此并不认同。爱丁堡大学（University of Edinburgh）语音技术专家 彼得·贝尔教授（Prof. Peter Bell） 认为，苹果的解释“并不合理”。他指出，语音转文字系统通常会经过海量数据训练，以确保准确性，因此单纯的语音重叠很难导致这样的错误。

可能的原因

专家们提出了几种可能的解释：

软件被人为篡改：贝尔教授认为，可能有人在苹果的 AI 训练过程中进行过干预。

AI 偏见或数据污染：如果 AI 模型的训练数据存在偏见或缺陷，就可能导致类似的错误。

人为恶作剧：一位曾在苹果 Siri 团队工作的前员工对《纽约时报》表示：“这看起来像是一次严重的恶作剧。”

社交媒体反响与苹果的回应

社交媒体上流传的视频显示，iPhone 用户在测试 Dictation 工具时，有时“racist”会被正确转录，但在某些情况下，它会被错误地识别为“Trump”，然后自动更正。

英国 BBC 试图复现这一问题，但未能成功。这表明，苹果可能已经推出了修复方案。然而，这一事件再次引发了关于 AI 责任制 和 AI 系统是否容易被操控 的讨论。

苹果 AI 面临的挑战

这并非苹果首次因 AI 问题受到争议。上个月，该公司暂停了其 AI 生成的新闻摘要功能，因为系统错误地报道网球明星 拉斐尔·纳达尔（Rafael Nadal） 出柜的假新闻。苹果为此遭到批评，并不得不对 AI 驱动的新闻功能进行调整。

苹果未来的 AI 投资与政策变化

尽管面临挑战，苹果仍在加大 AI 领域的投入。该公司最近宣布 投资 5000 亿美元 用于美国基础设施建设，其中包括 德克萨斯州的大型数据中心，以支持其 AI 业务 Apple Intelligence 的发展。

此外，苹果的 AI 政策可能会因 政治压力 发生变化。苹果 CEO 蒂姆·库克（Tim Cook） 近日表示，公司可能需要重新评估其 多元化、公平性和包容性（DEI） 政策。这一表态是在前总统 唐纳德·特朗普（Donald Trump） 呼吁取消 DEI 计划后提出的。

AI 在语音识别中的作用

苹果的 Dictation 工具只是 AI 语音识别技术在日常应用中的一个例子。然而，这一事件也引发了几个关键问题：

AI 真的能够做到完全无偏见吗？

AI 模型是否容易被操控？

科技公司应采取哪些措施来防止类似问题的发生？

随着 AI 在语音识别、文本生成等领域的广泛应用，如何确保 AI 的公正性和可靠性，将是科技公司必须面对的重要挑战。