Google针对军事人工智能提出多项建议

2022年5月3日，Google云人工智能副总裁兼主管安德鲁·摩尔（Andrew Moore）在参议院军事委员会网络安全小组委员会面前作证时表示，他对 CDAO 的创建感到鼓舞，但担心立法者对国防部人工智能工作的支持短期难以实现。

他在作证的时候提出，“我担心……对于个人，他们是否会从政府和国防部中心获得足够的支持，以真正做出必要的改变。因为你不能仅仅在现有系统之上使用所谓具有魔法的人工智能，而是必须考虑如何改变应用情况。”

美国国防部为了加快推动军事人工智能，设立了CDAO部门，将负责领导国防部扩大人工智能、数据和分析的战略，以实现更快、更准确的决策，并将在国防部的联合全域指挥和控制工作中发挥重要作用。

目前美国国防部已经在增加对人工智能领域的投资，要求国会为 2023 财年及以后的多项努力提供资金。

根据2023 财年预算文件，美国国防部正在寻求 2.7亿美元用于人工智能/机器学习演示和验证，3395 万美元用于情报支持，7679 万美元用于人工智能和数据加速器工作。

乔治城大学安全与新兴技术中心高级研究员安德鲁·洛恩在听证会上表示，虽然国防部本身在创新方面仍领先于中国和俄罗斯，但它有机会“在对抗性环境中领先于工业界”。

为了便于数字孪生战场实验室的成员更好了解摩尔所讲的内容，本文附有他作证的全文编译。

安德鲁·摩尔作证内容：

我的名字是安德鲁·摩尔。我是谷歌云人工智能 (AI) 的副总裁兼总经理。我最近担任国家人工智能安全委员会 (NSCAI) 专员，目前担任国家人工智能研究资源 (NAIRR) 工作组成员。我之前曾担任卡内基梅隆大学计算机科学学院的院长，并在我的职业生涯中担任计算机科学家，专门研究机器学习和机器人技术。作为 Google Cloud 领导团队的成员，我还曾担任国防部顾问。

我感谢委员会对推进人工智能的支持——感谢曼钦主席在推动美国国家科学基金会和西弗吉尼亚大学之间的合作伙伴关系中发挥的领导作用，以确保在去年的拨款法案中为人工智能研究提供更多资金，并感谢排名成员轮次继续支持国防部的人工智能基线。我非常感谢你们为 NSCAI 及其工作提供的支持。在我任职期间，NSCAI 向委员会和国防部 (DoD) 提交了强有力的建议。除了 NSCAI 的建议之外，还值得重新审视由国家科学院领导并由国家情报总监办公室赞助的关于人工智能对网络安全的影响的建议。人工智能可能是一项令人难以置信的资产，但与任何新技术一样，它也可能带来新的漏洞。

人工智能的一个有用定义是一种机器，它似乎具有人类或有时是超人的能力，可以完成我们之前可能说过需要人类智能的任务。近年来，一些最大的进步来自神经网络，它模拟了生物神经系统中的数十亿个神经连接。世界各地学术界和企业中发生的两大技术战首先是如何将其扩展到数万亿个连接，其次是如何将真正令人惊叹的技术演示转化为实际有用的实际部署系统。

人工智能可以指任何数量的涉及人工系统的技术，这些人工系统旨在或具有学习能力。国会自己将其描述为“一种旨在像人类一样思考或行动的人工系统，包括认知架构和神经网络”。神经网络是一种计算系统，用于使用模拟人脑功能的过程对数据进行分类和分析。数据被输入神经网络的第一层，每一层做出决定，然后将该信息传递到下一层的多个节点。一些现代神经网络有数百或数千层，具有数百万甚至数十亿个参数——其输出可以执行诸如对对象进行分类或在数据中查找模式等事情。这意味着人工智能可以比人类更快地处理更多信息：发现模式和发现数据中的关系，鉴于正在处理的大量数据，任何人类都无法自行处理。而且，人工智能不受一天中的时间、休息需求或其他人类负担的限制。在云端，人工智能和机器学习可以“永远在线”，不断地完成分配的任务。

对于网络安全和国家安全而言，在 AI 方面占据上风是至关重要的。有一场比赛，看谁能让机器提供尽可能多的防御。例如，人工智能系统对于自动化网络安全方面是绝对必要的。美国仍然是人工智能的领导者，但我们必须确保我们继续大规模地做到这一点。

AI 为 Google 的所有产品提供支持。而且，重要的是，我们使用人工智能来监控我们的网络基础设施，并尝试预测和检测对我们的网络或用户的威胁。人工智能的关键用途之一是发现活动中的异常，这些异常表明存在新的威胁向量。

当您使用 Google 搜索进行搜索时，我们当然也会使用它来支持用户。

人工智能能够使最相关的反应浮出水面。 AI 用于帮助在 Google 地图中为您预测最佳路线，检测 Google Docs 中的拼写错误或语法错误等。人工智能通过了解和预测用户的偏好和需求，让它们为用户服务，从而使我们的产品变得更好。谷歌使用相同的人工智能技术来保护我们的用户免受电子邮件网络钓鱼攻击、恶意行为者侵入文档等。

人工智能还为谷歌用于为国防部服务的许多解决方案提供支持。例如，我最喜欢的国防部和谷歌云之间的合作伙伴之一是与美国海军，海军使用商用无人机拍摄数百万张船体和其他难以到达的船体部分的图像，以及然后将图像发送到 Google Cloud 以使用 AI 技术分析图像。我们已经训练谷歌云识别任何锈蚀的图片，当发现时，系统会提醒海军分析师审查并安排船舶维修。通过利用 Google Cloud 的原生计算机视觉功能，该团队成功识别出船只航拍图像中的“感兴趣的腐蚀”，置信度得分超过 90%，误报率极低。这是一项工程壮举，需要新兴软件和硬件技术之间的复杂集成，并且每年为海军节省数千小时的准备时间。

我很乐意分享我们与国防部合作的其他例子——包括使用人工智能成像来检测癌症，使用人工智能来协助建立模拟技术来训练空军飞行员等等。

正如我所提到的，人工智能的一个关键用途是在网络安全解决方案中。虽然经常难以预测新类型的攻击和新威胁，因为它们不断出现，但 Google 运行着世界上最大、最安全的网络之一。由于其规模和每天面临的威胁，我们通过我们所有的全球平台对网络威胁世界有一定程度的洞察力和可见性，这使我们能够评估和开发针对各类威胁的尖端防御，而不仅仅是特定的攻击。

在 Google Cloud，我们利用这些专业知识通过我们的云服务提供全新的统一 AI 体验，为每位数据科学家、数据分析师和机器学习 (ML) 工程师提供我们在 Google 使用的相同工具来保护他们自己的网络。与国防部一样，我们必须时刻保持警惕，并确保 Google Cloud 的安全解决方案和更新在漏洞和威胁信息实时发展时得到通知。事实上，正如我们在最近的许多网络攻击中看到的那样，一些最危险的攻击是多个系统以不可预见的方式进行通信以造成混乱并造成严重破坏的攻击。考虑到这一点，我想就该委员会如何进一步支持国防部使用人工智能功能保护其网络、应用程序和人员的任务提供以下意见和建议：

（一）利用AI防御攻击。

正如我们从最近的事件中了解到的那样，我们的公共和私营部门的客户越来越明白，他们必须使用不同的应用程序保护其网络的不同部分。存在已知的威胁因素，但所有组织都必须能够发现不断出现的新威胁向量，并认识到内部威胁仍然是一个真正的问题。国防部必须始终确保他们拥有正确的资源。

我将尝试通过 Google 对这些威胁的看法来说明这一点：

1. 人工智能允许大规模监控已知威胁。

（1）威胁搜寻和调查工具用于查看历史数据并确定是否尝试利用 - 或者它们可以用作监控主动利用的工具。

（2）按需扫描容器（容器是独立的软件包，包含软件运行所需的一切）。

（3） 主动扫描检测对已知恶意站点的域名系统 (DNS) 调用（DNS 实际上是互联网的“电话簿”）。

（4） 检测常见漏洞利用尝试的工具。

2. 人工智能擅长异常检测和新兴威胁。

（1）在事件威胁检测 (ETD) 和安全健康分析中实施被动检测规则。

（2）检测潜在攻击的工具包括在 Edge API Analytics 中使用自定义报告。

（3）用于创建 Web 应用程序防火墙作为分层防御的工具，以防止攻击，直到可以修补所有漏洞。

3. 人工智能可以帮助识别内部威胁。

AI 特别适合识别内部威胁，因为它能够每小时分析数十亿个参数。防止内部威胁的需要也是政府推动机构采用零信任理念的一部分。

值得注意的是，人工智能是由数据训练和驱动的，因此拥有准确、精心策划的数据源是寻找威胁的关键。例如， VirusTotal等工具提供威胁上下文和信誉数据来帮助分析可疑文件。这些工具使用实时数据样本与历史数据进行对比，以跟踪某些威胁参与者、恶意软件家族的演变，并自动生成“危害指标”以保护组织。

（二）打破数据孤岛，充分利用 AI 的力量。

今天，数据以多种格式存在，以实时流的形式提供，并跨越全球许多不同的数据中心和云。从分析到数据工程，再到 AI/ML，再到数据驱动的应用程序，我们利用和共享数据的方式不断扩展。数据已经超越了数据分析师，现在影响着每一位员工、每一位客户和每一位合作伙伴。随着数据、工作负载和用户的数量和类型的急剧增长，我们正处于一个转折点，传统的数据架构——即使部署在云中——也无法充分发挥其潜力。因此，数据与价值之间的差距正在扩大。

洞察力不仅锁定在原始数据中——它们被锁定在来自许多来源和孤岛的数据中——这意味着统一数据集的能力是以结构化和专门构建的方式将 AI 应用于应用程序的先决条件。有很多机会可以确保该部门能够运营不同的服务跨越不同和不同的数据网络。例如，联合全域指挥与控制 (JADC2) 正在寻求通过允许跨所有域的接口和服务共享信息来实现这一目标。人工智能可以增强这项工作的安全性，并确保该部门正在审查数据以了解学习、异常、变化和模式。

一个很好的例子是我们如何使用人工智能系统进行反洗钱和打击国际恐怖主义融资（“AML/CFT”）。洗钱助长了贩毒、贩卖人口和恐怖活动。另一方面，支持 AI 的 AML/CFT 方法可以开发更复杂的分析镜头，能够以更及时的方式摄取大量数据，以检测可能绕过简单的基于规则的逻辑的新模式和异常.可以对这些引擎进行训练，以提高准确性、减少误报，并帮助执行内部风险评估，并更好地确定在数百万正在处理的合法交易中，不良行为者何时试图转移犯罪资金。 AI 可以进一步整合更多的上下文信号，并为调查人员生成更有针对性的标志，从而减少工作量并让他们专注于发现的最严重的问题。 AML 强调了该委员会、部门和私营部门可以关注的机会，因为我们确保美国继续在人工智能的开发和部署方面处于领先地位。

在 Google Cloud，我们优先考虑为跨公有云的分布式工作负载提供尖端的云原生功能，私有云和多云环境。此外，跨不同位置管理数据会造成孤岛并增加风险和成本——尤其是在需要移动数据时。诸如数据湖之类的创新提供了统一存储在多个云提供商之间的数据的能力，而无需担心底层存储格式或系统，从而消除了复制或移动数据的需要，从而降低了成本、效率低下和安全风险。这种方法允许通过使用多个供应商、云和技术进行创新，但它也增加了竞争，并可能降低该部门和纳税人的价格。

但是，这不仅仅是确保我们拥有数千个数据库和数据表。国防部的人员必须具备适当的技能和培训来利用这些洞察力。如果人工智能系统识别出 27 种新威胁，我们需要国防部内部的团队来快速确定威胁的优先级并解决这些威胁。这是一种与传统的“瀑布方法”截然不同的思维方式，传统的“瀑布方法”涉及更慢、更深思熟虑的计划，并且可以限制在这些场景中必要的更敏捷类型的工作。这是大型官僚组织的典型挑战。在 Google，当发现威胁时，我们需要在 24 小时内准备好补丁。在两周内，我们需要制定一个永久的解决方案，此后不久，我们需要进行事后分析，描述事件并包括对时间线的回顾、对用户影响的描述、根本原因、行动项目和经验教训。

（三）通过人机协作利用数据洞察力。

要了解人工智能在国防部任务中的全部机会，它还必须确保国防部可以将人工智能注入其工作流程。对基于人工智能的工具的理解不能仅限于具有编程技能的人。

需要明确的是，这不是采购问题。相反，领导者需要考虑部门内的人工智能工具是否可以帮助解决挑战。通常答案是肯定的。然后，该部门必须有能力让团队在数小时或数天内快速构建/调整/利用人工智能系统，以解决诸如寻找在海上丢失的船只或响应主动威胁事件等问题。 Vertex AI 和 AI 基础设施为数据科学家提供工具，以针对他们自己的问题大规模构建自定义 AI。如今，像我们这样的 AI 平台使用自定义库训练模型所需的代码行数减少了近 80%，数据科学家现在可以在 Vertex AI 上构建和训练模型，速度比在传统笔记本上快 5 倍。

人类团队，例如由分析师和数据科学家组成的团队，必须有共同的理解和机会，通过构建端到端的人工智能体验，将机器能力带入任务，他们可以从数据中提取价值并使用人工智能。立即通知最大化价值的盒子。想象一下，该部门有不同类型的数据库来跟踪世界各地的集装箱运输。然后想象另一个数据库保存有关每个容器内容的信息，另一个数据库可以分析容器内单个产品中使用的组件或材料。综合起来，人工智能系统会识别出每种产品都使用了一种特定的金属合金，这些产品似乎都在不同的港口运往同一个国家。

以这种方式交叉链接和连接数据允许针对意外防御问题进行持续模式检测，并可以帮助分析师以新的和新颖的方式从不同部门的数据中识别新兴趋势。

这一点尤其重要，因为我们的对手将继续寻找系统（包括人工智能系统）中的漏洞，这些漏洞可能会以简单和复杂的方式被利用。您可能已经知道“对抗性 AI”这个术语，但它是一个越来越多的研究领域。正如我之前提到的，最危险的攻击是多个系统以不可预见的方式进行通信以造成混乱并造成严重破坏的攻击。人工智能正在进一步支持这些类型的攻击，但它也可以帮助防御它们。

在过去的几年里，卡内基梅隆大学的研究人员证明了人工智能可以以超人的方式行事。这最近在一个简单的扑克游戏中得到了证明。该系统基于不完整的信息并针对多方进行操作，通过虚张声势和误导人类对手击败了领先的专业人士。这预示着未来还会有更多。扑克演示为网络防御和战争的未来提供了宝贵的见解：我们的对手将继续了解利用人工智能进行误导和攻击的新方法。

正如您所看到的，从扑克游戏到阻止洗钱、保护网络免受网络攻击，再到发现海军舰艇的腐蚀，人工智能通常可以比人类更快、更精确地发现模式和异常。人工智能技术可以帮助国防部扩大对这些模式和异常的分析，以发现威胁和学习。我敦促国防部采用人工智能，特别是在其保护其网络的努力中。

最后，让我承认这个小组委员会工作的重要性，以及鉴于日益复杂的形势，它为确保美国在人工智能和网络安全领域保持领先地位所做的努力。有了 AI，5000 人的工作量可以变成 50000 人。

我希望该部门将继续在培训、技术和管理方面进行正确的投资，以促进更多必要的实验、原型设计和执行。同样重要的是，该部门继续在云迁移、数据集管理、API 管理、网络连接方面进行全面的技术投资，以提高运营效率并提供经过验证的创新。我们都可以发挥作用来预防和检测在线威胁。在网络攻击方面对政府、客户和政府实体保持透明是我们的关键原则之一，在应对大规模事件时至关重要。我建议这个委员会继续鼓励使用现代，

基于对纵深防御的投资，基于云的技术可提高长期安全性。生态系统的多样性，尤其是基于云的解决方案，可以降低整体风险，并促进和提高抵御攻击的弹性。此外，支持可移植性和互操作性的产品和服务可促进弹性。

感谢您今天有机会与您交谈。我期待在这些重要问题上继续与国会合作，我很乐意回答您可能遇到的任何问题。