OpenAI联合创始人2016年参议院作证强调“开放”

导读：本文来自2016年OpenAI联合创始人Greg Brockman在美国参议院作证发言，该作证会由美国商业、科学和交通委员会，太空、科学和竞争力小组委员会主持，讨论的题目为“人工智能的黎明”（The Dawn of Artificial Intelligence）。

感谢克鲁兹主席、彼得斯高级委员、尊敬的小组委员会成员。今天的听证会为美国参议院成员提供了一个重要的第一次机会，让他们了解和分析人工智能对我们国家和世界的潜在影响，并完善美国政府处理人工智能的最佳方式的思考。

我很荣幸今天能应邀作证。

在过去一百年中，美国在几乎所有技术突破方面都处于领先地位，因此我们获得了巨大的经济回报。目前，我们在人工智能领域处于领先地位，但几乎没有垄断地位。

例如，今年，中国队在斯坦福大学领导的图像识别比赛中获得了顶级奖项。韩国宣布成立一个价值10亿美元的人工智能基金。加拿大生产了一些技术，推动了当前的繁荣，最近宣布对人工智能的关键领域进行投资。

我想分享三个关键点，即我们如何在人工智能领域取得最佳成功，以及美国政府将如何推进这一议程。

首先，我们需要在应用上竞争，但在开放的基础研究上合作。第二，我们需要建立公共标准和竞赛。第三，我们需要加强行业和政府在安全、安保和道德方面的协调。

第一，竞争与合作

人工智能应用正从几年前的情况迅速扩大：从帮助农民决定播种哪片田地，到仓库机器人，再到医疗诊断，某些人工智能应用正在渗透并支持企业，改善日常生活。这些应用程序和其他应用程序将创造新的公司和新的工作岗位，而这些公司和工作岗位在今天是不存在的，这与互联网的做法非常相似。但是，即使是发现全部应用程序，也需要重大科学进步。

因此，工业界不仅仅是在开发应用程序：像Facebook、谷歌和微软这样的公司也在进行基础研究，试图创建基本的人工智能构建块，这些构建块稍后可以组装成产品。

也许令人惊讶的是，行业实验室正在公布他们发现的一切。出版使他们能够集中资源创造更快的突破，并吸引顶尖科学家，他们中的大多数人更多的动机是推进社会和改善未来，而不是个人的经济收益。

公司通过公布其基础研究，但不公布其产品的细节来保持竞争力。技术的发明者通常是第一个部署它的人，因为它拥有正确的内部基础设施和专业知识。例如，谷歌子公司DeepMind开发的解决Atari视频游戏的人工智能技术被应用于提高谷歌自己数据中心的效率。DeepMind通过发表Atari研究论文分享了他们的基本技术，但没有分享他们在数据中心效率方面的应用工作。

开放使学术界和工业界相互加强。

卡耐基梅隆大学的安德鲁·摩尔表示，他雇佣的员工中有10%到20%会请假去工业界工作或找到一家创业公司，这并不罕见。OpenAI的研究员Pieter Abbeel在OpenAI和加州大学伯克利分校之间工作；同样，斯坦福大学教授李飞飞正在斯坦福大学和谷歌工作；许多其他公司和组织与学者合作。这确保了私营部门能够掌握最新的科学技术，大学能够了解与工业相关的问题。

开放性将世界人工智能研究活动集中在美国各地（包括吸引了许多帮助开启当前人工智能热潮的加拿大科学家），并使我们能够定义其文化和价值观。像中国百度这样的外国公司已经在美国开设了研究实验室，并开始出版。随着人工智能变得越来越有用，我们聚集的专家库将对确保其经济活动也以美国为中心至关重要。

建议-

我们建议采取以下措施，以确保我们的基础人工智能研究社区保持世界最强：

A. 维持或增加人工智能基础研究资金：根据国家科学技术委员会的《国家人工智能研究与发展战略计划》报告[1]，2015年，政府对人工智能相关技术的非保密投资约为11亿美元。

正如经济顾问委员会主席杰森·弗曼（Jason Furman）所强调的，有证据表明，基础研究的社会最优资金水平是实际支出的两到四倍[2]。如果我们想在美国取得这些突破，我们需要在人工智能的多个子领域进行基础研究，并鼓励社区相互分享他们的见解。我们需要允许我们的学者自由探索违背共识或价值具有高度不确定性的想法。这一点得到了历史的支持：像谷歌和微软这样的公司依赖人工智能技术，这些技术起源于一小群特立独行的学者。

B. 增加人工智能学者的供给：工业界对接受人工智能培训的人有着永不满足的需求，在可预见的未来，这种需求只会增加。我们需要增加接受人工智能技术培训的人员数量；这将使我们取得更多的研究突破，为工业界提供将基础科学商业化所需的人才，并培养下一代科学家。国家科学基金会可以探索调整其政策，为那些从事联邦奖学金工作的人提供更具竞争力的薪酬。

C. 增强人工智能领域的专业多样性：今天，人工智能主要由拥有计算机科学、数学和神经科学学位的个人组成，对男性有明显的性别偏见。随着人工智能增加其社会影响，我们需要增加人工智能社区内专业观点的多样性。政府可以探索提供更多的跨学科研究资助，以激励法律、农业或哲学等其他领域的专家与人工智能研究人员合作。我们还支持白宫的“全民计算机科学”倡议，以及OSTP的建议，即政府应建立一支对人工智能有不同观点的联邦工作队伍。

第二，公共测量和竞赛的必要性

客观的进步衡量标准有助于政府和公众区分真实的进步和炒作。让人工智能研究哗众取宠很容易，但我们应该记住，几十年来，先进的人工智能似乎就在眼前。良好的政策响应和健康的公众辩论取决于人们能否获得关于技术的哪些部分正在进展以及进展速度的清晰数据。鉴于一些人工智能技术（如自动驾驶汽车）有可能以多种重要方式影响社会，我们支持OSTP的建议，即政府密切关注特定人工智能技术的进步，并与行业合作衡量技术的进步。

此外，为人工智能技术设定一个可衡量的目标有助于研究人员选择要解决的问题。2004年，DARPA在莫哈韦沙漠举办了一场150英里长的自动驾驶汽车比赛，最高的竞争对手只跑了7英里。到2007年，DARPA举办了一场城市挑战赛，在复杂的城市环境中测试自动驾驶汽车，11个团队中的6个完成了这项课程。如今，优步、谷歌、特斯拉等正在致力于将自动驾驶汽车技术商业化。

同样，当李飞飞和她在斯坦福大学的合作者在2010年发起图像识别ImageNet竞赛时，它的设计超出了现有系统的能力。这一不可能给了世界研究界一种动力，使其能够在最有可能的情况下开发技术。2012年，学者们使用基于神经网络的方法获得了第一名，这证明了该技术的价值，并启动了当前的人工智能热潮。获胜的ImageNet团队成立了一家初创公司，随后被行业雇佣来开发新产品。其中一位成员Ilya Sutskever是我在OpenAI的联合创始人之一，另外两位成员在谷歌工作。这表明竞争如何激发研究突破，并转化为工业的经济优势。

我们正从一个狭窄的人工智能系统时代走向通用的时代。狭窄的人工智能系统通常会做一件非常好的事情，比如对图像进行分类、转录语音或掌握电脑游戏。通用人工智能系统将包含不同功能的套件；当他们遇到麻烦时，他们将能够解决许多任务并即兴提出新的解决方案。他们将需要新的方法来测试和基准测试他们的性能。衡量这些新的多用途系统的能力将有助于政府跟踪技术进展并做出相应反应。

建议-

政府可以通过以下方式创建人工智能进展的客观数据：

A. 现代竞争：人工智能系统通常通过静态数据集上的性能来衡量。现代系统将在现实世界中运行，它们的行为将影响其环境，因此静态数据集是衡量性能的一种糟糕方法。我们需要更多地捕捉现实世界复杂性的比赛，特别是在机器人、个人助理和语言理解等发展中领域。政府可以继续自己设计比赛，就像DARPA最近在网络大挑战中所做的那样，也可以支持其他这样做的人。

B. 政府信息收集：政府应收集整个人工智能领域的信息。研究人员倾向于在一个领域推进最新技术，但更大的前景可能对决策者至关重要，对研究人员也很有价值。政府可以投资于仔细监测该领域的状况，预测其进展，并预测重大人工智能应用的开始。

第三，加强行业和政府在安全、安保和道德方面的协调

互联网的建立是以安全为后顾之忧，而非核心原则。今天，我们仍在为此付出代价，像Target这样的公司因为使用不安全的通信协议而遭到黑客攻击。有了人工智能，我们应该尽早考虑安全、安全和道德，并将这些融入我们开发的技术中。

学术界和工业界的参与者正在开始协调人工智能的负责任发展。例如，我们最近与斯坦福大学、伯克利分校和谷歌的研究人员合作，在我们的论文《人工智能安全中的具体问题》[3]中制定了安全研究路线图。像人工智能合作伙伴关系和OpenAI这样的非盈利组织正在形成，以确保研究工作负责任且有益。

建议-

行业对话：政府可以通过反馈其在制定政策时需要了解哪些方面的进展来帮助人工智能社区。正如OSTP在其报告《为人工智能的未来做准备[4]》中所建议的，NSTC机器学习和人工智能小组委员会应与行业参与者会面，以跟踪人工智能的进展。OpenAI和我们的同行可以利用这些会议来了解我们应该在自己的工作中监控什么，以便为政府提供校准政策响应所需的遥测技术。

埃森哲最近报告称，人工智能有潜力在2035年前将经济增长率提高一倍，这将使其成为我们未来经济的引擎。拥有世界上最强大的经济体最终将需要拥有最受人工智能驱动的经济体，因此美国必须在这一过程中引领人工智能技术的发展和应用。确保美好未来的最佳方式是创造未来。

感谢您抽出时间关注这一关键话题。我很高兴回答任何问题。

[1] 国家科学技术委员会、网络和信息技术研究与发展小组委员会，2016.《国家人工智能研究与发展战略计划》报告：https://www.whitehouse.gov/sites/default/files/whitehouse_files/micsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf

[2] 杰森，弗曼，2016.“这次不同吗？人工智能的机遇和挑战”报告：https://www.whitehouse.gov/sites/default/files/page/files/20160707_cea_ai_furman.pdf

[3] Amodei，Dario等人，2016年.“AI安全中的具体问题”研究论文：https://arxiv.org/abs/1606.06565

[4] 国家科学技术理事会技术委员会主席办公厅，2016.“为人工智能的未来做准备”报告：

https://www.whitehouse.gov/sites/default/files/whitehouse_files/micsites/ostp/NSTC/prepareing_for_the_future_of_ai.pdf