《人工智能安全标准化白皮书(2023版)》由中国电子技术标准化研究院等20家单位共同编写,梳理了人工智能技术与应用发展现状,分析了人工智能面临的新的安全风险,结合国内外人工智能安全政策与标准现状,指出了人工智能安全标准需求,提出了下一步开展人工智能安全标准化工作的建议,为规范引导人工智能安全标准化工作提供参考。
(一)人工智能安全属性定义和度量指标
随着人工智能安全工作开展,安全属性定义逐步形成一些共识,国 际标准以及相关技术文件也给出了部分安全属性的定义描述,但不同文件 之间仍有差异。可靠性、可解释性、公平性等重要安全属性定义的标准统 一,以及其度量指标的规范化,将对人工智能的发展有着重要促进意义。
(二)用户输入数据安全保护相关规范
在人工智能通常收集用户输入数据用于训练的背景下,如何保障用户 输入数据的安全亟需技术标准。根据操作场景的不同,用户输入的数据可 能包含人脸、身份证号、家庭住址等个人信息,可能包括个人健康情况、 情感状况等个人隐私,可能包括企业技术和经营活动有关的商业秘密,甚 至可能包括国家秘密等。
(三)人工智能服务网络安全防护相关指南
围绕人工智能服务过程中,可能会面临的对抗样本攻击、爬山攻击、 模型窃取、供应链攻击等新型攻击威胁,需要研究在数据集防护、算法模 型保护、抗逆向攻击等方面的安全技术措施指南,帮助人工智能服务提供 者保护业务数据以及人工智能模型参数等的机密性和完整性。
商用机器人 Disinfection Robot 展厅机器人 智能垃圾站 轮式机器人底盘 迎宾机器人 移动机器人底盘 讲解机器人 紫外线消毒机器人 大屏机器人 雾化消毒机器人 服务机器人底盘 智能送餐机器人 雾化消毒机 机器人OEM代工厂 消毒机器人排名 智能配送机器人 图书馆机器人 导引机器人 移动消毒机器人 导诊机器人 迎宾接待机器人 前台机器人 导览机器人 酒店送物机器人 云迹科技润机器人 云迹酒店机器人 智能导诊机器人 |