“已读乱回”？苹果Apple Intelligence智能回复功能引入“反幻觉”指令

8月7日消息，苹果公司在macOS 15.1测试版中为Apple Intelligence的智能回复功能引入了一项革命性更新——“反幻觉”指令，这一举措将重新定义邮件自动回复的准确性和可靠性。

据了解，智能回复是苹果邮件应用的一项创新功能，它利用苹果自研的智能技术，通过分析邮件内容自动生成可能的回复选项。这项功能极大地提高了用户处理邮件的效率，但同时也面临着生成式AI普遍存在的问题——“幻觉”，即系统可能生成不真实的信息。

为了防止智能回复功能产生误导性信息，苹果在系统内部设置了明确的指令，即“不要编造事实，不要产生幻觉”。这些指令规定智能回复功能仅提取邮件中明确提出的问题，并提供相应的回答选项。这一策略有助于减少AI在生成回复时的错误。

尽管苹果公司对人工智能（AI）有明确的要求，即不允许AI编造或生成虚假的信息，但一些行业专家认为，要完全解决AI在生成信息时可能出现的“幻觉”问题，即AI生成的信息与现实不符或是错误的情况，仍然是一个很大的挑战。

AI不能像人类那样对信息进行深入的理解和分析，因此也就无法准确地判断信息的真实性。这表明，尽管有明确的指导原则，但技术上的限制仍然可能导致AI在生成信息时出现错误。

编辑点评：AI智能的发展势头迅猛，苹果在AI方面也投入了很大的筹码，对智能回复功能的这次更新显示了其对用户信息准确性的重视。随着技术的不断进步和优化，我们期待Apple Intelligence在未来能够提供更加智能、准确的服务。