人工智能管理体系解读（六）

在人工智能（AI）飞速发展的今天，ISO/IEC 42001:2023 的推出标志着建立人工智能管理体系标准化框架的一个重要里程碑。这项国际标准规定了在组织内部建立、实施、维护和持续改进人工智能管理体系（AIMS）的要求，有望成为人工智能治理领域的基石。随着人工智能技术日益融入各行各业，对全面合规机制的需求从未像现在这样迫切。ISO/IEC 42001 提供了一种结构化方法来管理人工智能带来的独特挑战，包括道德考量、透明度和持续学习等。

ISO/IEC 42001 - 绩效评价

ISO/IEC 42001 中的要求第九章绩效评价规定对人工智能管理体系的绩效进行监视、测量、分析和评价。它强调了定期评审和审核的重要性，以确保系统的有效性，并确定需要持续改进的领域，确保与组织的战略目标保持一致。

ISO/IEC 42001 要求第九章绩效评价是什么

ISO/IEC 42001 要求第九章的重点是绩效评价，它是 ISO/IEC 42001 标准的重要组成部分，旨在确保人工智能管理体系（AIMS）的有效性。要求第九章要求各组织对其人工智能系统的绩效进行系统的监视、测量、分析和评价。主要目的是确保这些系统在组织和相关标准规定的道德、法律和运行参数范围内运行。

要求第九章围绕几个关键组成部分展开：

• 监视和测量：组织必须确定其人工智能系统需要监视和测量的领域。包括确定确保这些测量和分析有效性的方法。
• 内部审核：组织需要有结构化的内部审核流程，以评估人工智能管理体系是否符合组织的要求和 ISO/IEC 42001 标准。
• 管理评审：最高管理层负责定期评审人工智能管理体系，以确保其在实现既定目标方面的持续相关性、充分性和有效性。

人工智能系统中监视和测量的重要性

为对人工智能系统进行有效管理，组织必须开展严格的监视和测量。这一过程对于确保人工智能运行符合道德准则、组织目标和合规要求至关重要。通过系统地跟踪绩效和结果，组织可以确定需要改进的领域，降低风险，并确保负责任地部署人工智能技术。

确定监视和测量的内容

为有效监视和测量人工智能系统，组织必须首先确定符合组织目标和 ISO/IEC 42001 所要求的道德准则的关键绩效指标（KPI）。可能包括准确性、公平性、透明度和安全性等指标。为成功或需要干预的因素建立明确的标准对于有意义的评价至关重要。

确保有效的监视和测量结果

采用稳健的方法对获得有效结果至关重要。包括选择能够准确捕捉人工智能系统绩效的适当工具和技术。根据已知基准或标准定期校准和验证测量工具，可确保所收集数据的可靠性。

实施内部审核计划

开展内部审核的一般要求

根据 ISO/IEC 42001 要求第九章，内部审核对于评估人工智能管理体系的合规性和有效性至关重要。内部审核必须验证组织是否符合内部要求和 ISO/IEC 42001 标准。为实现这一目标，组织需制定结构化的审核计划，其中包括计划的时间间隔、方法和责任等。

规划和制定有效的审核计划

组织在制定审核计划时，应考虑流程的重要性和以往审核的结果。包括确定审核的目标、标准和范围，确保对人工智能管理体系进行全面评价。选择能够保持客观公正的称职审核员对审核过程的完整性非常重要。

通过客观性和公正性加强审核流程

客观和公正是有效审核计划的基石。它们确保审核工作能够对人工智能管理体系 的绩效和合规情况提供可靠、公正的见解。这种客观的方法有助于发现真正的改进机会，保持利益相关方的信心。

绩效评价中的管理评审

管理评审的目的

根据 ISO/IEC 42001 要求第九章的规定，管理评审是人工智能管理体系绩效评价的重要组成部分。其主要目的是确保人工智能管理体系的持续适用性、充分性和有效性，与组织目标和合规标准保持一致。这一过程有助于对系统绩效进行结构化评价，确定需要改进的领域，并确保人工智能管理体系能根据内外部变化而发展。

管理评审的频率

为达到最佳效果，组织应按计划的时间间隔进行管理评审，通常是每年一次。不过，组织可以根据组织的规模、人工智能系统的复杂程度以及人工智能相关风险和机遇的动态性质来调整频率。

关键输入和输出

管理评审的输入包括以往评审的行动状况、与人工智能管理体系相关的外部和内部问题的变化，以及不符合项、纠正措施和审核结果等绩效数据。输出包括与持续改进机会有关的决策，以及对人工智能管理体系的任何必要调整，以确保其与不断发展的人工智能治理格局保持一致。

为持续改进做出贡献

管理评审有助于推动人工智能系统的持续改进。通过系统地评估人工智能管理体系的绩效，并根据全面的评审意见做出明智的决策，组织可以提高人工智能技术的有效性、安全性和道德部署。这种迭代过程有助于组织主动管理人工智能相关风险，最大限度地利用创新和创造价值的机会。

记录绩效评价的证据

文件化证据在证明符合 ISO/IEC 42001 要求第九章方面发挥着关键作用。它是组织有效监视、测量、分析和评价其人工智能管理体系绩效的有形证据。在审核过程中，这些文件是必不可少的，可为审核员提供必要的信息，以评估人工智能管理体系的合规性和有效性。

需要保存的文件化信息类型

组织应保存各种文件化信息，包括：监视和测量活动记录；分析和评价结果；内部审核报告和结果；管理评审记录；为解决不符合项和推动持续改进而采取行动的证据

确保证据的可用性

为确保审核和评审目的的证据的可用性，组织必须建立系统的文件管理方法。包括确定文件创建、审核、存储和处置的责任。定期培训和提高意识方案也可以帮助员工了解维护准确和可访问记录的重要性。

规划持续改进

ISO/IEC 42001 要求第九章为识别人工智能管理体系的改进机会奠定了坚实的基础。通过强调监视、测量、分析和评价的重要性，可确保组织清楚地了解其人工智能系统的绩效和需要改进的领域。

持续改进策略

组织可采用各种策略来规划持续改进工作，例如根据绩效数据分析结果制定具体、可衡量、可实现、相关和有时限（SMART）的目标。让利益相关方参与改进过程，培养创新和适应能力的文化也至关重要。

应用 PDCA 循环

计划-执行-检查-行动（PDCA）循环有助于推动人工智能管理体系的持续改进。此迭代过程包括规划改进行动、实施改进行动、对照预期成果检查结果，以及根据获得的见解采取行动，以进一步完善人工智能管理实践。PDCA 循环鼓励采取积极主动的方法来管理与人工智能有关的风险，并利用各种机会进行改进。

提高人工智能系统的有效性

要求第九章规定的持续改进可显著提高人工智能系统的有效性。通过系统地解决不符合项和优化流程，组织可确保其人工智能系统不仅符合道德准则和监管标准，还与战略目标保持一致。这种持续改进的过程有助于开发更安全、可靠和高效的人工智能系统，最终推动组织取得成功。

使 ISO/IEC 42001 与全球人工智能立法和标准保持一致

在快速发展的人工智能环境中，使组织的人工智能管理实践与 ISO/IEC 42001 和全球人工智能立法（如欧盟人工智能法案）保持一致至关重要。这种一致性可确保组织的人工智能系统不仅符合国际标准，还能遵守各区域的道德和法律要求。

驾驭多种标准的复杂性

驾驭与多个标准保持一致的复杂性可能具有挑战性。这需要组织全面了解每项法规和标准的细微差别，以及它们对人工智能系统的影响。为了促进这一过程，进行差距分析和利用合规管理工具可以为组织提供清晰的思路和方向。

合规的益处

遵守 ISO/IEC 42001 和全球人工智能标准可带来诸多益处，包括增强人工智能系统的可信度、改进风险管理以及在全球市场上的竞争优势。展示了组织对符合道德准则的人工智能实践的承诺，并促进用户、监管机构和利益相关方之间的信任。

ISO/IEC 42001 认证对组织的益处

获得 ISO/IEC 42001 认证可为组织带来诸多益处，展示组织对道德、透明和有效的人工智能管理的承诺。获得 ISO/IEC 42001 认证不仅能提高组织声誉，还能在利益相关方、客户和监管机构中树立对负责任地使用人工智能技术的信心。

要求第九章对 ISO/IEC 42001 认证的贡献

要求第九章的重点是绩效评价，对于展示组织致力于不断改进和遵守全球人工智能管理标准至关重要。它确保定期评估人工智能系统的效率、有效性和合规性，从而为 ISO/IEC 42001 认证的整体价值做出重大贡献。

展示对合乎道德的人工智能的承诺

通过严格的绩效评价，组织可以展示其对人工智能道德实践的承诺。这一过程包括对人工智能系统进行监视、测量、分析和评价，以确保它们符合道德准则和标准，从而加强组织对负责任的人工智能部署的承诺。