美国人工智能国家安全委员会中期报告

《2019国防授权法》设立了美国人工智能安全委员会，该委员会通过研究必要的举措来推动美国人工智能、机器学习和相关技术发展，多面应对安全和国防需求。国会赋予委员会从竞争力、保持技术优势之道、国际合作和竞争趋势、促进基础和GJ研究投入、劳动力和培训、军事应用的潜在风险、道德伦理问题、数据标准建立以及人工智能未来发展等方面审查人工智能。2019年11月4日，美国人工智能安全委员会于向国会递交中期报告。本文重点介绍“美国面临的挑战”与“美国政府的行动路线”两部分。

目 录

一、人工智能讨论的范畴

二、人工智能对美国安全至关重要

三、政府人工智能战略指导方针与实际执行间存在差距

四、对美国人工智能L导地位形成巨大挑战

五、确保美国人工智能L导地位的五条行动路线

人工智能讨论的范畴

鉴于人工智能涵盖范围非常广泛，本报告中，委员会讨论的人工智能重点集中在以下方面：

狭义人工智能与人机编组

狭义人工智能将会以多种不同的方式为人类提供协助，包括在人类认为不安全、不想做或无法d自完成的任务中充当替补。

机器学习

今天的人工智能快速创新浪潮，很大程度上应归因于出现了一种被称为深度学习的机器学习方式。深度学习在图像分类、对象检测、语音识别、自然语言处理和其他应用L域，已被证实是一项有效的技术。

人工智能技术核心

人工智能并非是某个单一硬件或软件，准确地讲，它是一系列技术的集合，需要人才、数据、硬件、算法、应用程序和集成。

人工智能生态系统

一个能够提供支持的合格产业生态系统十分重要，包括法律、资金、机构、政策、人才、知识产权保护、供应链和反人工智能防御机制。

人工智能对美国安全至关重要

人工智能可以帮助美国更有效地应对自然灾害和突发事件

具备人工智能的工具和系统能够协助守护边境安全、侦测并打击恶意网络活动、保护关键基础设施以及有效应对自然灾害。

人工智能可对大量数据进行处理，在海量数据中辨别异常，实现实时风险评估与响应，以支援反恐和反间谍工作。

在入境口岸运用载有人工智能的传感器，能够更有效地阻止武器、违禁品和人员的非法流动，帮助美国更有效地应对威胁与突发事件。

基于人工智能的分析能够支持更G质量的决策

在一个遍布传感器的世界，人工智能算法能够通过对大量数据进行筛选，找出模式、侦测威胁并识别关联。

人工智能工具能够使卫星图像、通信信号、经济指标、社交媒体数据和其他大型信息源更加易于理解。

将人工智能技术运用于军事将改变美国的战争方式

在未来战场上，军方能够借助具备人工智能的机器、系统和武器更快地了解战场情况，更快地生成通用作战态势图，更快地进行相关决策，在对抗环境下实施更复杂的多域作战，将更少的美国军人置于险境以及保护无辜者生命并减少附带损伤。

将人工智能技术多面集成到军事系统及行动当中，能够提升感知、理解及决策的精度和速度，并获得超出人类认知能力的优秀表现，因此有人认为人工智能将会开启“算法战争”的新时代。

政府人工智能战略指导方针与实际执行间存在差距

针对人工智能的战略指导方针陆续出台

以白宫2019年颁布《维护美国在人工智能L域L导地位》的行政命令为开端，美国政府已经意识到了人工智能对于安全的重要性并开始出台战略指导方针。

人工智能仍难以得到足够的政府资金支持

在很大程度上， 人工智能对于美国政府来说仍然是一个难题，因为它不符合由安全需求及联邦资金来推动技术发展的传统方式。目前，大多数人工智能应用程序都属于商用范畴，安全方面的应用则大多停留在理论层面。

僵化的政府运作体系不利于人工智能发展

在不断追赶的模式下，政府正尝试将人工智能与现有的基础设施和技术结合。由于采购、测试和评价体系落后，无法适应人工智能迭代的、基于软件的属性，政府的法规和官僚体制常被视为对人工智能商业模式的阻碍。

此外，由于政府缺乏广博的专业知识，难以想象人工智能的前景、涵义、操作理念，使得守旧僵化的思想成为人工智能发展的主要障碍。

总之，委员会的初步判断是：美国没有将人工智能L域的优势和战略宣言转化成为特定的安全利益，主要部门和机构尚未完全体察上层的战略政策，因此关键性安全任务并未纳入人工智能。

确保美国人工智能L导地位的五条行动路线

加大人工智能研发政府投资

委员会认为，虽然人工智能具有巨大的变革性潜力，但目前美国政府尚未投入足够的资源去满足当前的研究需求，也未能给未来的创新制造条件。美国的人工智能L导地位可能比现在预想的更早面临风险。委员会作出五方面判断：

一是联邦政府拨给人工智能的研发经费与其潜在的革命性价值不匹配，更不及竞争对手在这方面激进式的投入，因此亟需比当前水平G出数倍的投资。

二是政府应在全国范围内建造人工智能研发基础设施，并鼓励建设区域创新集群。

三是官僚体制与资源的局限，阻碍了政府下属的实验室和研究中心对自身人工智能研发潜力的充分发挥。

四是美国政府需要明确目标、优先上马、协调一切并且争分夺秒地投入以安全为重心的人工智能研发。

五是美国政府应实施更加灵活的出资机制以支持人工智能研究，不可再墨守成规。

加快人工智能在安全任务中的应用

安全委员会认为，人工智能是下一次科技飞跃的关键，若能够妥善加以利用，它将拓展美国的优势并在东亚与东欧保持强大威慑力。因此，美国政府需要加快对人工智能的应用工作。委员会形成六方面共识：

一是人工智能可以帮助美国执行重大安全任务。

二是官僚体制威胁到了政府对于人工智能安全策略的执行。国防和情报机构需要即刻加快人工智能应用步伐。

三是从国防部到情报体系，存在着一大批成功的自下而上的创新。但是，当前没有自上而下的L导力来克服组织障碍，这些孤立的项目无法转化为战略变革。

四是能够快速部署人工智能成为作战的必要条件，要在有弹性、强健、可靠和安全的人工智能系统上进行投资。

五是人工智能的优劣取决于其依托的基础设施。而在国防部内部，这类基础设施尤其薄弱。

六是美国政府没有充分利用基本的商业人工智能来提升商业实践并节省纳税人的钱。部门和机构需要进行现代化改造，以提G效率并节约成本。

培训和招募人工智能人才

委员会认为，增加人工智能人力资本已势在必行，政府可以培训自身人力资源、招募新人才以及与外部机构合作。美国应该将从战场到实验室的每个人都纳入对人工智能劳动力需求的再思考。关于培训和招募人工智能人才，委员会成员形成如下共识：

一是安全机关需要重新思考对于人工智能劳动力的需求。包括提G各个机构对人工智能相关技术的熟悉度，在人工智能开发和部署的各个层J嵌入对于伦理和责任方面的培训，以及推广使用现代软件工具。

二是美国的人工智能人才库很大程度上要依赖留学生和国际劳工。因此，美国的竞争力就取决于吸引和留住全世界D人才的能力。

三是政府应着眼于增加人工智能相关的奖学金和交流机会，让官员和服役人员掌握先进的人工智能技术，并将人工智能企业的人才纳入到联邦工作中。

四是军事和安全机关需要更好的激励和培训机制，争取留住人工智能人才。

保护和建立美国技术优势

为了在保持开放型经济的同时，维持美国在国防技术上的优势，委员会经过初步研究，形成如下共识判断：

一是传统基于商品的出口管制以及小范围的外资审查已不足以维持美国在人工智能L域的竞争力。

二是美国政府应该继续借由出口管制（包括多边管制）来保护美国及其盟友特定的人工智能硬件优势，尤其是在半导体制造设备方面。

三是美国需要继续在与人工智能相关的硬件L域保持L先，并确保政府有获得新技术的可靠途径。

四是执法部门和学术界L导人可以且应该找到共同立场，在保持开放性研究体系的同时，降低美国校园中存在受外国政府指示活动的安全风险。

引L人工智能合作

随着人工智能成为联合国和经济合作与发展组织等多边机构关注的焦点，委员会正在研究如何发起一个联盟，来强化美国及其盟友的利益与价值观，特别是在人工智能规范与标准方面。委员会经过初步研究，形成如下共识判断：

一是美国需要建立合作伙伴网络，用于人工智能数据共享、研发协调、能力建设和人才交流，以增强自身在人工智能L域的竞争力。

二是人工智能对军事互用性提出了重大挑战。如果美国及其盟友不及早并且经常对人工智能能力进行协调，那么美国军事同盟的效能将受到损害。

三是美国的外交应当开放地看待与中俄进行合作的可能性，以提升人工智能的安全性，并掌控人工智能对于战略稳定性的影响。

四是美国应倡导建立积J的议程，就人工智能的发展与所有进行合作，以造福人类。