人工智能应用系统内生安全蓝皮书：内生安全赋能系统构建的方法和内在的构造效应,提升应对能力

2024年1月，人工智能(AI) 新锐巨头OpenAI 公司的创始人兼 席执行官萨姆 · 奥尔特曼(Sam Altman)在世界达沃斯论坛上强调， AI 带来的技术革命不同于以往，而是成为了一种“不可思议的提G 生产力的工具”。作为具颠覆性的新兴技术之一，AI 发展在为人类 社会经济发展带来巨大红利的同时，也引发了一系列现实危害和风险 挑战，主要包括数据窃取、隐私泄露、算法歧视、对抗攻击等安全威 胁，它们不仅威胁着个人信息的保护，影响着企业的信誉和运营安全， 甚至对安全也构成了潜在的隐患，这些问题需要我们持续关注并 采取有效措施加以防范和解决。

当前人工智能应用系统的安全威胁是由于其网络软硬件运行环 境和模型算法两个层面存在的“内生安全问题”所致。然而现有的人 工智能应用系统安全防护模式和技术路线很少能跳出“尽力而为、问 题归零”的惯性思维，传统的对抗训练、挖漏洞、打补丁、封门补漏、 查毒杀马乃至设蜜罐、布沙箱等层层叠叠的附加式防护措施，在引入 安全功能的同时不可避免地会引入新的内生安全隐患。

为创造性破解人工智能应用系统内生安全难题，本蓝皮书提出一种内生安全赋能人工智能应用系统构建的方法，利用内生安全机理中内在的构造效应，从体制机理上管控或规避人工智能应用系统面临的破坏及威胁，进而有效提升人工智能应用系统在面对复杂多变安全环境时的应对能力，为AI 技术的健康发展提供坚实保障。

附件：人工智能应用系统内生安全蓝皮书：内生安全赋能系统构建的方法和内在的构造效应,提升应对能力