ISO/IEC42001 人工智能管理体系

人工智能作为一项颠覆性技术，在为人类社会带来发展机遇的同时，也带来了不可预测的风险，人类面临道德、隐私和安全等方面的问题与挑战。认识到负责任管理的必要性，国际标准化组织 (ISO) 和国际电工委员会 (IEC) 于 2023 年 12 月联合发布了人工智能管理体系 ISO/IEC 42001 标准。该标准提供了一个可认证的人工智能管理体系（AIMS）框架，在此框架内，人工智能体系作为人工智能保证生态系统的一部分进行开发和部署。

ISO/IEC42001标准的背景：英国标准协会（BSI）于2016年发布BS人工智能管理标准，国际标准化组织（ISO）将人工智能管理标准纳入制定计划中。2022年7月国际标准化组织正式发布ISO/IEC 22989:2022 信息技术-人工智能概念和术语，这份标准详细描述了与人工智能领域相关的概念与术语，该标准首先定义了人工智能各个领域的术语，例如：与人工智能相关的术语、与数据相关的术语、与机器学习相关的术语等等，在定义术语的基础上，标准就AI领域相关的概念进行了详细解释，例如：“从强人工智能和弱人工智能到通用人工智能和窄人工智能”概念、“软计算”的概念、“通用算法”的概念等等，为人工智能管理标准的制定确立的概念和术语共识的基础。2023年6月，用于人工智能管理体系认证的标准《ISO/IEC 42001 信息技术—人工智能—管理体系》已经完成成员国意见征询工作，2023年6月8日公布，该标准进入批准阶段。最终12月发布了人工智能管理体系 ISO/IEC 42001 标准。

具体来说，该标准包含以下主要内容：

1. 组织背景：组织应确定相关的内部和外部需求、期望和问题，并确定AI管理系统的范围。
2. 领导力：管理层应表现出领导力和承诺，确保建立AI政策和目标，将需求整合到业务流程中，并确保适当的资源。
3. 规划：组织必须制定一个行动计划，以应对实现目标的风险和机遇。
4. 支持：规定了对资源、能力、意识、沟通和书面信息的必要要求。
5. 操作：组织必须有开发、实施和维护AI管理系统的流程。
6. 绩效评估：确立了监控、测量、分析和评估AI系统以及内部审计和管理审查的要求。
7. 改进：组织必须进行改进并采取纠正措施以避免不合格。

该标准还提供了附录，为组织提供了具体的控制目标、控制措施、实施指南以及与AI相关的潜在组织目标和风险源等信息。
规定了在组织范围内建立、实施、维护和持续改进人工智能管理系统的要求