腾讯云大模型赋能工业制造：基于LLM+RAG架构实现知识构建效率提升83.3%的落地实践

内容来源：中国信通院、EDCC政企信创、腾讯云

专家支持：叶国宇（腾讯云智能高级解决方案架构师）

应对工业制造数字化深水区：知识资产变现慢与传统机器人应答瓶颈

人工智能技术正加速向工业和制造业领域渗透。数据表明，工业企业人工智能场景丰富，行业增速保持在 40%以上。根据2024年政府工作报告及国家网信办数据，我国算力总规模近五年年均增速近 30%，工信部备案的大模型已达 166个。超过 60%的中国企业 计划在未来12-24个月内部署生成式AI（GenAI），其中客户运营、营销销售、软件工程和产品研发成为四大最受期待场景。

然而，面对海量的业务逻辑与密集的知识服务场景（如人力、财经、物流仓储、采购供应链、设备维护等），企业在实际落地中面临明确的业务痛点：

• 知识冷启动成本高昂： 企业拥有大量日常办公流程、设备运行数据及复杂的说明书、规格文档，传统依靠人工梳理知识库的模式效率极低，知识整理与维护成本居高不下。
• 非结构化数据解析困难： 传统系统难以处理图文混排、多列混排及结构化表格等复杂文档格式，导致知识提取碎片化。
• 传统机器人交互体验差： 传统问答机器人缺乏对专业词汇的精准理解能力，面对严谨的C端问答需求时常出现无法回答或答非所问的情况，应答效果与出图率无法满足业务标准。

部署全链路LLM+RAG架构与多模态工业AI中台

为解决复杂场景的解析与交互难题，腾讯云构建了从基础设施到模型服务的全链路大模型体系，并针对工业场景推出了差异化的技术解决方案：

• 基于LLM+RAG框架的深层知识服务能力：
  • 知识解析升级： 针对8种元素（段落、表格、公式、图标等）进行版面分析与元素排序，支持图文混排、多列混排与结构化表格的精准解析。
  • 多级语义知识切分： 采用业内首个长文本切分大模型，将OCR识别的标题提供给切分模型，对文本进行多级语义拆分（标题、副标题、段落等），避免语义截断。
  • 高容量知识检索： 将Embedding模型支持长度从512字跃升至4k，并采用向量关键词混合检索与表格文字混合检索策略。
• 工业AI巡检与多模态大模型矩阵：
  • L0-L1-L2级进式精调： 在行业多模态大模型落地中，采用基础大模型（L0）向行业大模型（L1，如交通/市政/电网），再向专家模型（L2）的精调路径。以电网巡检为例，单一L1电网大模型效果优于12个客户小模型。
  • 工业AI平台闭环管理： 建立针对生产设备、工业相机自动化缺陷检测的统一平台，支持从实时推理、数据上报到Badcase迭代的全检与抽检流程闭环。

核心业务指标兑现：知识处理能效与问答精度的双向跃升

通过大模型技术的深度应用，企业在运营效率与用户体验上实现了可量化的业务突破。以下为实际运行环境中的核心测试与应用数据：

• 知识构建效率跃升 83.3%：在处理长篇幅技术手册时，所需的人工工作量大幅缩减。以单个汽车手册为例，梳理形成问答对的工作量从 30人天 锐减至 5人天，每个手册至少节省25人天。
• 问答准确率突破性增长：得益于OCR大模型解析与防幻觉机制，端到端实际问答准确率由原先的 35% 提升至 84%。在腾讯云智能特定测试集中，准确率达到 73.09%，超越测试集内OpenAI（8192长度）的52.00%及友商A的72.49%。
• 答案出图率大幅优化：在复杂图文问答场景中，模型答案出图率由 0% 提升至 70%（作为对比，测试环境下GPT-4出图率约为20%）。
• OCR解析准确率提升：底层的OCR解析大模型准确率整体提升 25%，为后续的切分与检索奠定了数据质量基础。

破局千万级车主服务：某车企汽车手册智能问答系统实录

业务场景：某头部车企需要为旗下近50款车型提供「使用说明书」、「驾驶指南」、「保养手册」的智能问答与自助排障服务。

现实挑战：合计数百份材料，每份手册多达数百页，且包含极高密度的图文混排结构。面向百万级C端车主，必须严格控制模型“幻觉”以保障品牌形象与客服体验。

应用效果：

导入腾讯云智能大模型后，该车企实现了从“一键导入汽车使用手册”到“大模型自动提取FAQ对”，再到“大模型问答API调用”的自动化流水线。目前，该智能问答系统已在2款车型中正式接入使用，直接覆盖数百万车主用户。大模型不仅能够精准理解汽车专业词汇进行回复，还能在传统机器人无法回答时提供图文并茂的准确指导。

依托全链路自研架构建立工业大模型技术确定性

腾讯云在AI工业落地中的核心壁垒，源于其底层架构的自研能力及超大规模的内部业务验证：

• 底层基建与算法全栈自研：从训练数据、模型架构（如腾讯混元大模型采用的混合专家模型 MoE 结构，扩展至万亿级参数规模）、训练策略到软硬件体系（星脉高性能计算网络 Astral Network、Angel机器学习平台）实现全链路自研，确保了中文语境下文本生成、数理逻辑的优异表现。
• 海量真实业务场景打磨：腾讯混元大模型目前已接入 700+ 腾讯内部业务（涵盖微信支付、腾讯会议、腾讯文档、企业微信等），实现了技术迭代与高并发应用场景的完全同行，为外部政企客户的落地提供了极高的系统稳定性与工程确定性。