mile米乐官方网站 标准化支持AI技术在安全相关工业领域的使用

已发布国际技术报告文件ISO/IEC TR 5469:2024（以下简称“本文件”），该文件整理了安全确认方法以及与常规技术的结合等，以便将人工智能（以下简称“AI”）技术应用于汽车和工业机器人等安全性很重要的产品和服务中。米乐m6官方网站（以下简称“AIST”）作为编辑牵头编写了本文件，并以其人工智能安全相关质量检查方法的研究成果为本文件的出版做出了贡献。

这不仅会在日本而且在其他国家扩大人工智能技术的应用范围，从而扩大市场。

以机器学习为代表的人工智能有望在自动驾驶、工业机器人等广泛的工业领域落地到社会。然而，对于基于学习确定操作细节的人工智能系统，不可能直接应用传统系统中使用的方法，通过检查系统是否按照人类设计的方式操作来验证故障安全性。因此，人工智能无法应用于需要符合国际标准的高安全级别的应用。

本文件整理了将人工智能引入安全性很重要的工业领域时的系统构建和质量确认的概念。它描述了传统系统和人工智能系统结合时确保安全的概念、机器学习技术部分的质量确认的概念以及与传统安全相关标准的一致性的概念。这标志着在安全关键产品和服务中使用人工智能技术制定国际标准的第一步。未来，将有可能对人工智能系统的安全性进行认证，为人工智能技术的社会部署铺平道路，特别是在关键任务领域。

AIST一直致力于人工智能领域的广泛标准制定，包括通过经济产业省委托的项目“人工智能生命周期和人工智能质量保证国际标准化”（2019财年-2020财年）。作为其中的一部分，2020年，我向ISO/IEC JTC1/SC42提出了这份文件的创建，除了推动国内委员会的讨论外，我还负责国际编辑并领导编写了大约三年的时间。

与此同时，AIST 一直与日本先进的人工智能使用公司合作，在 NEDO 委托项目“机器学习系统的质量评估指标和测量测试台的研究和开发”（2019 财年至 2023 财年）中开发使用机器学习的人工智能系统的质量管理技术。它综合整理了满足人工智能系统所需的安全性、性能等质量所需的努力和评估项目，自2020年起以日文版和英文版形式出版《机器学习质量管理指南》，并每年进行修订。

AIST 通过将机器学习质量管理指南英文版的描述及其背后的知识提供给这份国际文件的讨论，加速了国际讨论，并且这份技术报告文件已经出版，其中包括在日本编写的知识。

目前，该小组委员会正在开始考虑下一份文件，根据本文件中提出的想法，描述创建安全人工智能系统需要做什么。在鼓励日本国内质量管理讨论的同时，AIST将根据内容参与下一个文件的讨论，与其他国家就创建安全人工智能的技术达成一致，并制定国际标准，以便日本产品的质量优势在世界范围内得到客观的高度评价。

《机器学习质量管理指南》是受 NEDO 委托、由 AIST 与私营企业参与者共同编写的机器学习 AI 整体质量管理指南。这些指南列出了人工智能系统必须满足的五个质量：“风险规避（安全）”、“人工智能性能”、“公平”、“隐私”和“人工智能安全”，并指出了每个质量可能的水平。另一方面，为了实现这些品质，它列出了在开发和运营人工智能系统时应检查和改进的14点，分为五个方面：“质量结构/数据集设计”、“数据集质量”、“机器学习模型质量”、“软件实现质量”和“运行过程中的质量”。

第一版于 2020 年 6 月发布，并根据人工智能等的进步不断进行修订，最新版本，第四版于 2023 年 12 月发布。

此外，我们从一开始的目标就是在国际标准化中反映这些指南的内容，因此我们还发布了英文版本。

机器学习质量管理指南https://wwwdigiarcaistgojp/publication/aiqm/
机器学习质量管理指南（英文版）https://wwwdigiarcaistgojp/en/publication/aiqm/

经济产业省“关于人工智能生命周期和人工智能质量保证的国际标准化”（2019-2020 财年）”（2019-2020 财年）
经济产业省“人机协作标准化调查”（2022年）
经济产业省“人机协作和人工智能系统管理相关国际标准化”（2023财年-2025财年）
新能源和产业技术开发组织“与人一起进化的下一代人工智能技术开发项目/建立现实世界中可靠的人工智能评估和管理方法/研究和开发机器学习系统的质量评估指标和测量测试台”（2019财年-2023财年）