北约人工智能战略摘要（2021）

2021年10月21日，北约国防部长同意了北约有史以来第一个人工智能（AI）战略。

该战略概述了如何以受保护和道德的方式将人工智能应用于国防和安全。因此，它根据国际法和北约的价值观，设定了负责任地使用人工智能技术的标准。它还解决了对手使用人工智能构成的威胁，以及如何与创新界在人工智能方面建立可信的合作。

人工智能是北约盟国优先考虑的七个技术领域之一，因为它们与国防和安全有关。这些包括量子驱动技术、数据和计算、自主性、生物技术和人类增强、高超音速技术和空间。

1. 人工智能（AI）正在改变全球国防和安全环境。它为加强我们的技术优势提供了一个前所未有的机会，但也会加速我们面临的威胁的速度。这项基础技术可能会影响联盟为支持其三项核心任务而开展的所有活动：集体防御、危机管理和合作安全。

2. 为了保持北约的技术优势，我们承诺在与人工智能促进跨大西洋防御和安全有关的任何事项上，盟国之间进行协作与合作。北约和盟国可以通过在几个北约和盟国机构现有采纳努力的基础上，帮助加快这些努力。

3. 该战略的目标有四个方面：

• 为北约和盟国以身作则奠定基础，并鼓励以负责任的方式为盟军的国防和安全目的开发和使用人工智能；

• 在能力开发和交付中加快人工智能的采用并将其纳入主流，加强联盟内部的互操作性，包括通过人工智能用例、新结构和新方案的提案；

• 保护和监控我们的人工智能技术和创新能力，解决安全政策考虑因素，例如我们负责任使用原则的实施；以及

• 识别并防范国家和非国家行为者恶意使用人工智能的威胁。

1. 未来，北约联盟旨在以可互操作的方式整合人工智能，以支持其三项核心任务。根据国际法，将在整个企业、任务支持和运营层面以公认、负责任的方式进行此类使用。认识到民私部门和学术界在人工智能发展中的主导作用，该战略将得到以下支持：北约、私营部门1和学术界之间的重大合作；北约技术和政策性人工智能人才的有能力劳动力；强大、相关、安全的数据基础设施；以及适当的网络防御。

2. 在即将到来的北大西洋国防创新加速器（DIANA）下，国家人工智能测试中心可以支持北约的人工智能雄心。北约和盟国还将定期进行高级别对话，让战略政治层面的技术公司参与进来，以了解情况并帮助塑造人工智能领域技术的发展，对人工智能带来的机会和风险达成共识。

3. 此外，北约仍将是人工智能在国防和安全方面的跨大西洋论坛，利用人工智能的潜力，同时防止国家和非国家行为者对其（AI）恶意使用。

负责任的使用原则

1. 该战略的前沿是北约负责任地利用人工智能进行国防的原则，这将有助于根据我们的价值观、规范和国际法指导我们的跨大西洋努力。北约负责任使用原则（原则）基于现有和广泛接受的道德、法律和政策承诺，北约历来一直并将继续根据这些承诺运作。这些原则不影响或取代现有的国家和国际义务和承诺。

2. 以下原则是根据相关方法和适用国际展会的相关工作制定的。这些原则适用于所有类型的人工智能应用程序。它们旨在为北约和盟国提供一致性，以实现互操作性。这些原则将是讨论和采用更详细的人工智能最佳实践的基础，并应被视为盟国在国防和安全背景下使用人工智能的基线，并指出一些盟国已经拥有负责任使用的国家原则。

北约在国防中负责任地使用人工智能的原则

1. 盟国和北约承诺确保他们开发和考虑部署的人工智能应用程序将在其生命周期的各个阶段符合以下六项原则：

A.合法性：人工智能应用程序将根据国家和国际法，包括国际人道主义法和人权法（如适用）进行开发和使用。
B.责任和问责制：人工智能应用程序将以适当的判断和谨慎程度开发和使用；应适用明确的人类责任，以确保问责制。
C.可解释性和可追溯性：人工智能应用程序将适当地理解和透明，包括通过使用审查方法、来源和程序。这包括北约和/或国家一级的核查、评估和验证机制。
D.可靠性：AI应用程序将具有明确、定义明确的用例。这些能力的安全性、安全性和稳健性将在整个生命周期内在这些用例中接受测试和保证，包括通过既定的北约和/或国家认证程序。
E.可治理性：人工智能应用程序将根据其预期功能进行开发和使用，并将允许：适当的人机交互；检测和避免意外后果的能力；以及当系统表现出意外行为时，采取步骤的能力，例如系统脱离或停用系统。
F. 缓解偏见：将采取积极措施，以尽量减少人工智能应用程序的开发和使用以及数据集中的任何意外偏见。

确保安全和负责任地使用联合人工智能

1. 为了确保盟国人工智能的安全和负责任的使用，北约将实施其负责任的使用原则。这些原则将适用于整个人工智能能力的生命周期。因此，盟国和北约将在所有发展领域实施这些原则。

2. 为了进一步为这项工作提供信息，北约人工智能测试中心将为盟国制定最佳实践，其中包括协助整体互操作性和信息安全工作。

3. 在安全和负责任地使用人工智能的基础上，北约和盟国将有意识地将缓解偏见的努力付诸实践。这将寻求尽量减少这些对个人特征的偏见，如性别、种族或个人属性。

4. 北约将在部署人工智能能力之前进行适当的风险和/或影响评估。

尽量减少对联合人工智能的干扰

1. 一些国家和非国家行为者可能会寻求利用我们人工智能技术中的缺陷或局限性。盟国和北约必须根据负责任使用的可靠性原则，努力保护人工智能的使用免受此类干扰、操纵或破坏，并利用支持人工智能的网络防御应用程序。

2. 盟国和北约应为人工智能制定足够的安全认证要求，例如为“压力测试”目的制定具体的威胁分析框架和量身定制的安全审计。

3. 人工智能可以影响关键的基础设施、能力和民事准备——包括北约的七个复原力基线要求所涵盖的基础设施、能力和民事准备——创造潜在的漏洞，如网络空间，这些漏洞可能会被某些国家和非国家行为者利用。

4. 一些国家和非国家行为者也可能通过造成公众对人工智能军事用途的不信任，在盟国社会中利用虚假信息机会。盟国将寻求在《负责任使用原则》的背景下防止和打击任何此类努力，并酌情利用战略沟通。北约将根据需要支持盟国。

标准

1. 北约将进一步与相关国际人工智能标准制定机构合作，帮助促进人工智能标准方面的军民标准一致性。

编译：数字孪生战场实验室