生成式人工智能在公共部门的未来

Dave Erickson 01 December 2023

最近，我与IDC政府洞察研究副总裁Adelaide O’Brien坐下来讨论了全球公共部门中生成式人工智能的当前和未来状态。整个对话可以点播观看，但我也想强调讨论中的一些要点。我们的目标是讨论我们现在看到的用例，公共组织面临的障碍，以及关于组织如何利用生成式人工智能为员工、选民和更大的数字化转型带来价值的最佳实践。

公共部门中的生成式人工智能：当前状态

IDC的研究显示，59%的政府机构处于组织中使用生成式人工智能的初级阶段（相比之下，有16%的机构“大量投资”）。展望未来，IDC分享了有关公共部门领导者如何看待他们近期生成式人工智能路线图的更多洞见：

• 62% 的全球政府表示他们将在未来12个月内在客户服务和支持中使用人工智能。
• 49% 的全球教育机构表示，对话应用程序（例如，聊天机器人和语音机器人）对于近期使用最有前景。

更进一步，IDC根据他们的研究以及与政府客户的咨询对话，概述了公共部门组织未来几年可能采用和整合生成式人工智能的进展。

公共部门生成式人工智能用例的三个阶段

IDC根据组织的成熟度水平，将政府用例分为三个阶段，或三个阶层。与一些专注于生成式人工智能整合收入潜力的私营部门同行不同，迄今为止，公共部门组织正以更为谨慎的爬行-步行-跑步方法前进。

第一阶段： 根据IDC的说法，第一阶段是在未来一年左右的时间里发生的渐进式创新，组织主要在内部测试生成式人工智能。最初，用例集中在提高员工生产力和满意度上，例如围绕内部合同管理、采购和通过沙盒环境创建代码的试点项目。换句话说，就是通过结合机构自有数据的生成式人工智能应用程序，将复杂、重复的数据中心任务简化。一旦这些试点项目启动，组织计划扩展到影响外部利益相关者的用例，例如通过将其与个性化、相关数据相连，改善选民的帮助台或呼叫中心体验。

第二阶段： 一旦组织对第一阶段发生的生成式人工智能文化转变感到相当舒适，用例可以扩展到更具颠覆性的创新。IDC预计这一阶段将在未来几年内普遍存在。这里的用例将“前台与后台”连接起来，并利用智能自动化。示例包括关键基础设施保护、跨机构数据共享调查和福利欺诈保护。

第三阶段： IDC框架中的第三个也是最后一个阶段的用例将继续扩大范围，并包括新的商业模式和跨复杂生态系统的整合。在这里，组织正在全面规划系统性主题，如数字立法、国家情报优势和智能互联校园。

规模化生成式人工智能需要安全和信任

尽管生成式人工智能的阶段充满希望，但领导者们也面临着数据隐私、员工满意度以及伦理和合规方面的担忧。根据IDC的数据，43%的全球政府领导者担心生成式人工智能会危及他们对数据和知识产权的控制，41%的人担心生成式人工智能的使用会使他们面临品牌和监管风险。

对于公共部门来说，任何生成式人工智能实施的安全和信任至关重要 - 对私营部门合作伙伴的信任、对政策和伦理准则的信任，以及对私人数据保持私密的信任。正如Adelaide O’Brien所指出的，“政府只有通过以信任为中心，才能在规模上提供生成式人工智能的价值。” 对于公共部门组织来说，这意味着需要为负责任的人工智能战略性地思考政策和指导原则，包括：

• 为整个组织制定人工智能路线图
• 设计智能架构
• 映射实施和成功所需的技能
• 确保你的敏感数据不会被用来训练 大型语言模型（LLM）
• 保持数据在主权领土上
• 确保你拥有自己的加密密钥

以上所有考虑中，至关重要的是“人在回路”方法，它确保生成式人工智能的输出由人类进行错误信息的交叉检查，特别是考虑到生成式人工智能幻觉的潜在可能性。

使用检索增强生成技术以确保模型基础

IDC指出，全球36%的政府领导者对生成式人工智能使用的准确性或潜在毒性（偏见、输出中的幻觉）感到担忧。为了确保生成式人工智能的输出尽可能准确和及时，IDC和Elastic®都推荐使用检索增强生成（RAG）。RAG是一种自然语言处理技术，使组织能够使用自己的专有数据与生成式人工智能结合，以提高内容输出的质量。通过利用您自己的特定领域数据，RAG通过为生成式人工智能搜索查询提供相关的内部背景来确保LLM的基础，从而提高准确性并减少幻觉。 

Elastic中的RAG如何造福公共部门

• 基于事实： 在Elastic中使用同步数据，以获得准确、最新的特定任务结果，并通过上下文窗口传递给生成式人工智能模型。
• 灵活性以获得卓越的相关性： 在Elastic中引入你自己的transformer模型，与第三方模型集成，或使用Elastic的Learned Sparse EncodeR（ELSER）。
• 隐私和安全： 应用Elastic原生支持的基于角色的访问控制，用于聊天和问答应用。
• 成本效益： 使用更小的LLM，与微调或依赖基于LLM的知识相比，将推理成本降低两个数量级。

收听完整的虚拟炉边聊天

立即访问与IDC的完整对话。