人工智能安全属性

伴随着人工智能应用的常态化，人工智能安全问题的研讨也持续开展。

1、网络安全基本属性，即人工智能系统及其相关数据的机密性、完 整性、可用性以及系统对恶意攻击的抵御能力之外，讨论人工智能安全一 般还需要考虑以下属性。

2、透明性： 指人工智能在设计、训练、测试、部署过程中保持可 见、可控的特性，只有具备了透明性，用户才能够在必要时获取模型有关 信息，包括模型结构、参数、输入输出等，方可进一步实现人工智能开发过程的可审计以及可追溯。

3、可解释性： 描述了人工智能算法模型可被人理解其运行逻辑的特性。具备可解释性的人工智能，其计算过程中使用的数据、算法、参数和 逻辑等对输出结果的影响能够被人类理解，使人工智能更易于被人类管 控、更容易被社会接受。

4、公平性： 指人工智能模型在进行决策时， 不偏向某个特定的个体 或群体，也不歧视某个特定的个体或群体，平等对待不同性别、不同种 族、不同文化背景的人群，保证处理结果的公正、中立，不引入偏见和歧 视因素。

5、隐私性： 指人工智能在开发与运行的过程中实现了保护隐私的特 性，包括对个人信息和个人隐私的保护、对商业秘密的保护等。隐私性旨 在保障个人和组织的合法隐私权益，常见的隐私增强方案包括小化数据 处理范围、个人信息匿名化处理、数据加密和访问控制等。

6、可靠性： 指人工智能及其所在系统在承受不利环境或意外变化 时，例如数据变化、噪声、干扰等因素，仍能按照既定的目标运行、保持 结果有效的特性。可靠性通常需要综合考虑系统的容错性、恢复性、健壮 性等多个方面。