企业如何利用AI大模型，推动场景落地并打破局限

2024年8月30日，上海市国资委正式发布了上海国资国企数字化转型的应用场景清单，该清单广泛包括了40家企业集团共计308个具体场景。清单中明确地展现了对前沿科技与数字技术的强烈需求，特别是在AI大模型等新型技术领域，需求金额高达近12亿元，占据了总需求金额的近三分之一。在列出的308个场景中，有101个被认定为行业内的典型应用示范，这些示范场景广泛分布于交通、金融、新消费等多个关键行业。

此外，为大力推进企业落地垂类大模型应用，上海市国资委携手经信委、数据局，共同成立了上海国资国企数字化转型创新基地。这个基地的成立，为企业实现数字化转型提供了强有力的支持与保障。

产业界对大模型技术的需求很大，正在加速改变着众多行业的应用格局，推动着新一轮的产业革新。大模型技术的产业化落地已经进入了至关重要的阶段，而且在很多的通用领域内已经获得了成果。当前，我们正在处于一个从通用场景向专业场景深化拓展的关键时期，专业场景成为了应用扩展的核心焦点。在企业的研发、生产、供应、销售以及服务等全业务流程中，存在着着大量等待与AI技术深度融合的高价值应用场景。

针对大模型产业落地的一系列核心议题，包括其发展现状、落地应用所面临的挑战、企业实施AI大模型时遇到的问题及解决策略，共同就这些话题进行了深入的探讨与思想碰撞。

一、大模型技术加速演进

大模型的参数规模已经从最开始的百亿级别快速跃升至千亿级乃至万亿级别，规模扩张所带来的红利仍然在持续的显现出来，模型规模的扩大能够明显提升在各类任务中的表现；同时，混合架构与多模态技术的发展为大模型算法的进一步演进打开了新的一条路。

基础设施是人工智能取得突破性进展的关键基石，主要集中在训练、推理及应用开发三大领域。尽管模型是人工智能技术的核心，但在实际应用落地过程中还是面临许多挑战。

第一个任务就是解决如何高效且低成本地进行模型训练。因此，在训练方面，分布式框架技术的革新、集群的扩展以及芯片的优化等措施正推动着高效低成本训练的实现。

而在推理方面，核心问题同样聚焦于降低成本，通过架构的优化、技术的改进以及芯片的优化等手段，持续降低了推理成本以及应用兼容性成本，这也是近几年大模型厂商纷纷降价的重要原因之一，才会有推理成本的持续下降。

此外，围绕模型的全生命周期进行创新，大模型的落地架构逐渐明朗，分为基础设施层、平台工具层、模型库与数据集层、以及应用开发平台层，大模型的主要创新方向在于降低应用门槛，丰富应用场景与模式。

技术的不断突破让大模型成功跨越了夭折线，进入了成长期，并开始了产业化进程。

二、应用落地面临的挑战

大模型行业落地需要关注大小模型协同、高效化、数据质量、算力适配、多模态发展及复合型人才培养。通过模型量化、压缩等技术提升效率，同时注重数据处理质量，并积极适配国产GPU。复合型人才短缺成为技术与应用合作的关键瓶颈。

大模型在不同场景应该需要综合考虑技术、数据及行业特点，进行定制化开发，并注重算力适配、数据质量及人才培养。并解决信任、数据确权及监管等问题，以实现大模型的有效落地与应用。

应用大模型或者进行相关研究时，必须高度重视数据确权及政策合规性，确保所有工作都在政策框架内进行，一以此来保障项目的平稳推进，并有效规避潜在的法律与伦理风险。

针对大模型产业发展的制约因素，首先，场景应用仍然需要丰富，相较于国外大模型在应用场景和行业覆盖上的广泛性，国内的应用落地仍然进一步拓展；其次，共生生态建设需要完善，高校、科研机构与AI服务商之间缺乏有效的协同机制，产学研合作需要加强；最后，智能算力供应存在限制，高端训练芯片仍然受制于国外厂商，国产芯片在训练芯片领域实现技术突破。

三、企业实施AI大模型策略

企业在实施AI项目时应该秉持工程思维，构建系统化的“架构蓝图”与“实施方法论”。企业在引入大模型时，需要清晰界定技术指标及评估标准，选择贴合自身需求的模型，并搭建一套全面的工程架构以支撑模型的运行与应用，这涵盖了硬件能力的强化与软件体系的完善。

企业成功落地大模型的八大核心技术要点：

建设高性能智算设施：大模型的训练与推理对算力提出更高要求，企业应该建立高效能智算中心，确保算力供应高效、存储能力强大及数据传输稳定可靠。

强化数据治理与供给：构建面向AI的数据管理体系，解决数据质量参差不齐、管理体系不健全及数据流与模型流水线匹配度低等问题，为大模型提供高质量数据支撑。

搭建AI中台：构建AI中台，实现数据、业务与AI能力的无缝对接，重塑智能化转型的基础架构，并与现有IT系统深度融合。

建立大模型评测机制：评测体系需要贯穿AI应用的整个生命周期，从模型选择、部署到持续优化，确保应用质量。

构建模型服务体系：打造模型服务平台，支持模型的高效构建、部署、监控与调用，实现模型即服务（MaaS），为业务部门提供便捷服务。

开发AI原生应用：开发像智能体、检索增强生成等AI原生应用，提升大模型应用的易用性，并解决信任与控制问题。

建立AI管理体系：构建AI管理体系，统一管理AI资产、流程与团队，提升AI应用的效率、质量与安全性。

评估AI应用成熟度：实施AI应用成熟度的评估，客观反映企业AI应用水平，推动AI产业健康、稳健、持续发展。

数智宝数字科技有自己的研发团队，通过前沿的 AI 技术研发了不同用途的 AI 软件。

若你有志于提升人工智能成效，现在正是拥抱人工智能的正确时机。

请关注【数智宝数字科技】，将为您提供更多关于AI技术的深入洞察，以及丰富的成功案例分享，帮助企业/商家降本增效，实现数字化转型。