图文理解中的幻觉问题：如何降低错误描述率？

摘要：

图文理解中的幻觉问题指模型对图片内容的描述与实际情况不符。本文分析幻觉问题的成因，介绍降低错误描述率的技术路径与实践建议，并说明VITA多模态理解模型在图文理解中的使用建议，帮助开发者构建更可靠的内容理解应用。

一、幻觉问题的定义与表现

1.1 什么是图文理解中的幻觉

在多模态理解任务中，"幻觉"（Hallucination）指模型输出的内容与输入素材的实际状况不一致。具体到图文理解场景，幻觉可能表现为：

• 描述了图片中不存在的对象或属性
• 对图片中对象的关联关系做出错误判断
• 对图片内容的解读与实际情况存在偏差

幻觉问题会影响内容理解结果的可靠性，因此在涉及内容审核、信息提取等场景时，需要采取措施降低错误描述率。

1.2 幻觉问题的常见表现形态

根据图文理解任务的不同类型，幻觉问题的表现形态也有所差异：

对象识别类任务：模型可能识别出图片中不存在的物体，或者遗漏图片中实际存在的物体。

属性判断类任务：模型可能对物体的颜色、形状、数量等属性做出错误判断。

关系推理类任务：模型可能对图片中多个对象之间的空间关系、交互关系做出错误描述。

图文关联类任务：模型可能错误判断图片与文字之间的关系，如将无关的图文判定为相互支持，或将相关的图文判定为相互矛盾。

二、幻觉问题的成因分析

2.1 模型训练数据的覆盖边界

多模态理解模型的训练数据虽然规模庞大，但仍然无法覆盖所有可能的图片场景和边缘情况。当输入图片涉及训练数据中较少出现的场景、物体或构图方式时，模型可能基于不完全的关联做出推断，从而产生幻觉。

2.2 跨模态对齐的复杂性

图文理解任务需要模型对视觉信号和文本信号进行跨模态的对齐与推理。在这一过程中，如果视觉信号不够清晰，或者文本指令存在歧义，模型可能在多个合理的理解路径中选择与实际意图不符的路径，导致输出结果与预期不符。

2.3 长上下文下的信息衰减

当处理较长的视频或较多数量的图片时，模型需要在较长的上下文窗口中保持对关键信息的准确理解。在产品文档中提及，对于长视频，模型的理解效果可能出现幻觉，因此建议视频时长控制在30分钟以内。

这一建议反映了长上下文场景下信息衰减对理解准确性的影响。

三、降低错误描述率的技术路径

3.1 输入素材的质量控制

输入素材的质量直接影响理解结果的准确性。降低幻觉风险的第一道防线是控制输入素材的质量：

• 图片清晰度：确保图片关键信息可见，避免模糊、过暗、过亮等影响视觉识别的问题
• 音频质量（对于含音频的任务）：确保音频清晰，无严重噪音干扰
• 素材长度：对于视频理解任务，尽量将视频时长控制在合理范围内

3.2 指令设计的明确性

指令（Prompt）的设计对理解结果的准确性有重要影响。根据产品文档中的使用建议，编写指令时应尽量使用明确、具体的表述，避免模糊表述。

具体的实践建议包括：

• 明确任务目标：在指令中清楚说明需要模型完成的具体任务，如"描述图片中的主要物体"而非"分析这张图"
• 指定输出格式：当需要特定格式的输出时，在指令中明确说明，如"以JSON格式输出结果"
• 提供判断标准：当需要模型进行某种判断时，在指令中提供具体的判断标准

3.3 结果校验机制的建立

对于关键信息场景，建议建立结果校验机制，对模型输出进行人工或自动的核验：

• 抽样核验：对模型输出结果进行抽样人工核验，发现系统性的偏差模式
• 多轮验证：对重要结论，可通过不同的指令设计进行多轮验证，交叉核对结果的一致性
• 边界测试：针对边界场景进行充分测试，了解模型的能力边界

四、VITA在图文理解中的使用建议

4.1 模型选型建议

VITA提供两个可用模型，用户可根据任务需求进行选择：

• vita-video-3.0：支持视频画面（不含音频）和图片。如果任务不涉及音频处理，优先选择该模型。
• vita-video-long：支持视频（含画面和音频）和图片。如果任务需要处理音频，选择该模型。

4.2 视频时长控制建议

根据产品文档的建议，视频时长建议控制在30分钟以内。在这一范围内，模型能够较好地保持理解的连续性与准确性。超出建议时长可能影响理解效果，增加幻觉风险。

4.3 图文联合推理的任务设计

VITA支持图文关联性判断、图文内容联合识别、多图与文本的综合理解。在设计图文联合推理任务时，可以通过以下方式降低错误描述率：

• 在指令中明确说明图文关系的判断标准
• 对于复杂的图文关联任务，可将其分解为多个步骤，逐步完成
• 在输出中要求模型提供参考依据，便于后续核验

4.4 批量处理中的质量控制

对于批量处理场景，建议先进行小批量测试，确认理解效果后再进行大规模使用。在小批量测试阶段，可以：

• 识别容易产生幻觉的场景类型
• 调整指令设计，优化理解效果
• 建立适用于特定场景的质量控制措施

五、幻觉问题的持续应对

5.1 模型能力的持续演进

多模态理解模型的能力在不断演进。随着训练数据的丰富和模型架构的改进，模型在降低幻觉方面持续取得进展。

VITA 3.0相比此前版本，在音视图文全模态统一理解方面实现了升级，能够在更长上下文和更连续的时间线上保持理解的一致性。

5.2 业务侧的适配优化

在模型能力的基础上，业务侧也可以通过适配优化来降低幻觉的影响：

• 场景聚焦：将模型应用于与其训练数据分布较为接近的场景，降低边缘情况的出现概率
• 人机协同：在关键决策环节引入人工审核，将模型输出作为辅助参考而非唯一依据
• 反馈闭环：建立用户反馈收集机制，持续发现和改进幻觉问题

5.3 技术文档的参考价值

产品文档中提供的使用建议和适用边界说明，是降低幻觉风险的重要参考。在接入VITA之前，建议仔细阅读产品文档，了解模型的能力边界和使用建议，在适用范围内合理使用。

六、图文理解质量的综合提升

6.1 从单一任务到综合理解

图文理解任务往往不是孤立的。在实际应用中，可能需要同时完成多个理解任务，如对图片进行对象识别、属性判断和关系推理。

VITA通过原生多模态架构，在单个模型内完成端到端的多模态内容理解。这种架构设计有助于减少多模型串联带来的误差累积，从而在整体上降低错误描述率。

6.2 结构化输出的辅助作用

要求模型以结构化的形式输出理解结果，有助于提高结果的可核验性。当输出采用JSON等结构化格式时，可以更方便地对接后续的结果校验流程。

在产品文档的调用示例中，展示了如何通过Prompt设计来引导模型输出结构化结果。

6.3 免费试用与效果验证

在将VITA应用于生产环境之前，建议利用免费试用额度进行充分的效果验证，了解其在特定场景下的理解效果。

图文理解中的幻觉问题是多模态理解技术面临的共同挑战。通过合理的输入控制、明确的指令设计、完善的结果校验，以及遵循产品文档中的使用建议，可以在实践中降低错误描述率，提升图文理解应用的可靠性。

VITA多模态理解模型提供了原生多模态架构的图文理解能力。如需测试VITA在图文理解任务中的表现，可访问以下地址进行体验：https://console.cloud.tencent.com/tokenhub/multimodal?modelId=youtu-vita