时间网评｜AI大模型“胡说八道”引发信任危机，智能还是误导？

近日，湖南卫视《歌手》排名引发13.11和13.8谁更大的问题，在社交媒体上引发了广泛讨论。这个问题看似简单，却意外地暴露了当前一些AI大模型在处理基础数理逻辑问题时的不足。

在媒体的相关测试中，包括Kimi在内的多个大模型在这一问题上出现了错误，这不仅引起了公众的注意，也对大模型的可靠性和公众信任产生了影响。

大模型的失误不仅仅是技术问题，更是信任问题。在财经、医疗、教育等多个领域，大模型的应用越来越广泛，它们提供的分析和预测对决策者至关重要。然而，当这些模型在基础问题上出现失误时，公众对它们的信任度自然会下降。这种信任的缺失不仅影响模型的使用者，还可能对整个行业的信誉造成损害。

在这次事件中，Kimi、智谱清言、通义等大模型将13.8%误认为13.08%，并错误地认为13.11%更大。这种现象在业界被称为“幻觉”，即模型在没有充分依据的情况下产生错误结论。这种幻觉可能源于数据源的偏差、训练过程中的缺陷或推理逻辑的不足。这种现象的存在，使得大模型在处理复杂问题时的可靠性受到质疑。

由此可见，为了减少大模型的幻觉现象，技术开发者和产业界需要持续优化和改进模型。这包括改进数据源的质量、优化训练过程以及增强模型的推理能力。同时，加强对大模型的监管和评估也是必要的。通过严格的质量控制和透明的评估机制，可以确保大模型在实际应用中的可靠性，从而增强公众的信任。

除了技术改进和监管，公众教育和透明度也是提升大模型信任度的关键。通过教育公众理解大模型的工作原理和局限性，可以减少对模型的误解和过度依赖。同时，提高模型的透明度，让使用者了解模型的决策过程和依据，也是增强信任的重要手段。

这次事件提醒我们，大模型虽然在许多方面表现出色，但在基础问题上的失误也不容忽视。技术的进步需要与公众信任同步发展，只有通过不断的技术创新、严格的监管和透明的沟通，大模型才能真正成为公众可靠的助手。（文/石萍）