(八)安全/伦理标准。
安全/伦理标准包括人工智能领域的安全与隐私保护、伦理等部分,如图10所示。
图10安全/伦理标准
1.安全与隐私保护标准。包括基础安全,数据、算法和模型安全,技术和系统安全,安全管理和服务,安全测试评估,产品和应用安全等六个部分。
其中,人工智能基础安全标准是人工智能安全标准体系的基础性标准,用于指导人工智能安全工作的全过程,主要包括人工智能概念和术语、安全参考架构、基本安全要求等。
人工智能数据、算法和模型安全标准是针对人工智能数据、算法和模型中突出安全风险提出的,包括数据安全、隐私保护、算法模型可信赖等。
人工智能技术和系统安全标准用于指导人工智能系统平台的安全建设,主要包括人工智能开源框架安全标准、人工智能系统安全工程标准、人工智能计算设施安全标准、人工智能安全技术标准。
人工智能安全管理和服务标准主要是为保障人工智能管理和服务安全,包括安全风险管理、供应链安全、人工智能安全运营、人工智能安全服务能力等。
人工智能安全测试评估标准主要从人工智能的算法、数据、技术和系统、应用等方面分析安全测试评估要点,提出人工智能算法模型、系统和服务平台安全、数据安全、应用风险、测试评估指标等基础性测评标准。
人工智能产品和应用安全标准主要是为保障人工智能技术、服务和产品在具体应用场景下的安全,可面向智能门锁、智能音响、智慧风控、智慧客服等应用成熟、使用广泛或安全需求迫切的领域进行标准研制。
2.伦理标准。规范人工智能服务冲击传统道德伦理和法律秩序而产生的要求,重点研究领域为医疗、交通、应急救援等特殊行业。
附表:人工智能标准研制方向明细表