兰德报告：美国如何应对通往超级智能的不确定道路

近日，兰德发布《在通往超级智能的不确定道路上获取地缘政治优势的美国战略：维持行动自由》（A U.S. Strategy to Secure Geopolitical Advantage on an Uncertain Path to Superintelligence: Maintaining Freedom of Action）。报告讨论的核心问题是：随着前沿人工智能持续发展，若未来诞生超级智能，美国应当如何应对由此带来的战略与地缘政治变局。

报告首先指出，前沿人工智能仍在快速迭代发展。部分专家认为，超级智能最终有可能出现，但目前尚无足够证据判断这一进程的推进速度，也无法确定发展是否会放缓甚至完全停止。报告提出，超级智能一旦问世，其影响可能不仅会重塑地缘政治格局，还将关系到人类的生存与自主行动能力。因此，美国需要提前做好战略准备，不能等到危机发生后再着手建设相关能力。

报告认为，目前围绕超级智能的讨论主要存在七种典型战略。它们分别是“主导”“共同开发”“准备”“暂停”“威慑”“社会延续”和“加速”。这些战略并不是简单的政策选项，而是建立在不同判断基础上的战略路径。比如：

• “主导”强调美国保持前沿领先地位；
• “共同开发”设想美国与其他国家共同开发并治理超级智能；
• “准备”强调通过自愿承诺、分阶段部署、独立评估和事件报告等方式增强应对能力；
• “暂停”主张在特定能力水平以上暂停人工智能发展；
• “威慑”则强调通过国家力量阻止危险人工智能项目发展；
• “社会延续”考虑在其他预防手段失败后，如何保留能够继续生存并保持一定自主能力的人类社会；
• “加速”则认为限制人工智能发展的风险可能高于人工智能发展本身，因此应依靠市场竞争和快速迭代推动发展。

报告没有把这七种战略简单地看成七个可以立即选择的方案。报告认为，究竟哪种战略可行，取决于五个关键的不确定问题。

• 第一个问题是危险距离有多近。报告所说的危险，包括大规模伤害人类生存和自主能力的风险，也包括人工智能引发或加剧重大冲突的风险。
• 第二个问题是人类和先进人工智能能否共存，也就是人工智能大规模运行后，人类是否仍然能够保有理解、判断和行动的能力。
• 第三个问题是国家和企业能否合作限制人工智能发展。
• 第四个问题是单个国家能否取得并长期保持决定性的战略优势。
• 第五个问题是，如果合作失败，是否能够通过技术控制、威慑或其他手段阻止本国或其他国家的危险人工智能项目。报告指出，目前专家对于这些问题存在明显分歧，现有证据还不能彻底解决这些问题。

这也是报告强调“不确定性”的原因。报告认为，人工智能战略存在一个重要问题：过早确定战略，可能失去其他选择；但如果一直等待确定性证据，也可能因为没有提前建设必要能力而失去选择。

报告将这种情况称为“战略选择的提前关闭”。这种情况有多种形成方式。其中一种是机构能力衰退。如果外交渠道、验证机制、专业人才和相关基础设施没有提前建设，一些战略未来可能无法快速启动。另一种是技术部署形成锁定。人工智能越深入经济和社会，未来想要改变发展方向的成本可能越高。报告还讨论了竞争对手取得既成事实、人工智能削弱人的自主能力，以及模型权重、训练方法和专业人才扩散等情况。这些变化都可能使原本存在的战略选择越来越难以恢复。

因此，报告认为，“现在立即选择一个战略”和“什么都不做、等待证据”都可能带来选择空间缩小的问题。报告提出的解决方式，是提前建设各种可能需要的能力，在保持多种战略选择的同时持续观察技术和战略环境。当证据足够明确，或者某一战略已经接近必须作出决定的时间点时，再进行战略选择。报告把这一思路称为“Freedom of Action”，即“行动自由”战略。

报告明确表示，“行动自由”不是最终目标，而是一种应对不确定性的方式。其最终目标仍然是维护美国的地缘政治优势，同时确保人类能够在超级智能发展的过程中保持生存和自主能力。报告认为，在目前的不确定条件下，保留未来作出不同选择的能力，是实现这些目标的一种方式。

为了保持这种选择空间，报告提出四类需要提前建设的能力。

• 第一类是建设人类与人工智能共同发展的生态。报告建议继续支持人工智能安全和共存研究，使先进人工智能更加可控，并能够在必要时受到限制或关闭。同时，需要建立监督机构和相关机制，使人类继续参与重要决策。报告还提出，要建立能够获得公众支持的制度安排，并为人工智能带来的经济和社会变化做好准备，包括经济转型、信息完整性、治理人工智能依赖等方面。
• 第二类是建设人工智能安全体系。报告提出，这套体系应当帮助美国了解前沿人工智能的发展情况，发现危险能力，监测大规模训练活动和计算资源，并具备人工智能事件的发现、隔离和恢复能力。同时，还需要发展验证、监测和国际合作基础设施，并加强人工智能系统本身的安全，包括人工智能网络防御、模型权重安全和数据中心安全等。
• 第三类是调整现有国家安全体系。报告认为，人工智能的发展会影响核安全、生物安全、军事、情报、反恐和网络安全等多个领域，因此这些领域都需要进行相应调整。报告特别指出，网络安全领域既需要使用人工智能工具，也需要防范人工智能支持的网络攻击，同时还要加强美国人工智能系统自身的防护。
• 第四类是提高社会和组织的应对能力。报告提出，需要让政府和企业领导者提前了解人工智能可能带来的危机，并进行相关演练。同时，要发展人工智能的安全应用，建立危机预案，提高公众和机构对人工智能能力、局限和风险的认识。报告认为，这些能力不能等到危机发生后再建立，因为很多能力需要较长时间才能形成。

在具体执行方面，报告提出三个持续性的任务。

首先是持续监测。报告建议建立长期的战略预警机制，持续观察前沿人工智能能力、竞争对手的人工智能项目以及五个关键不确定因素的变化。监测的目的不是简单判断人工智能发展到了什么水平，而是判断哪些战略仍然可行，哪些选择正在关闭，以及什么时候需要作出决定。

其次是防止灾难和战略锁定。报告提出，需要关注危险人工智能能力的扩散，建立事件发现、控制和恢复能力，同时保持关键基础设施和社会的韧性。报告还特别提出，在没有经过充分安全验证之前，不应把人工智能直接纳入核指挥、控制和通信体系，因为这种变化可能同时影响多个战略选择。

最后是抓住机会并进行有意识的战略沟通。报告认为，人工智能领域的技术突破可能随时改变战略环境，因此美国需要具备快速利用新能力的条件。同时，技术展示、公开披露以及保持沉默本身都会向竞争对手传递信息。因此，报告主张对哪些能力公开、向谁公开以及什么时候公开进行有意识的安排。

报告还强调，人工智能战略无法仅靠政府独立推进，大量关键能力掌握在私营企业、人工智能公司和技术研究机构手中。因此，报告认为，美国政府、人工智能企业、其他企业以及公民社会之间需要形成合作关系。报告提出的行动自由战略，本质上就是在高度不确定的情况下提前建设能力，同时避免过早关闭未来的战略选择。