人工智能与军备控制

2022年10月12日，美国智库新美国安全中心（CNAS）发布了一份题为《人工智能与军备控制》的研究报告。


报告通过探索历史上试图进行军备控制成功和失败的案例，来研究人工智能军事应用的军备控制潜力。本文从军备控制的概述、军备控制的可取性和可行性、人工智能的影响以及前进的道路几个方面对报告进行了梳理。




一、军备控制概述


军备控制是一个宽泛的术语，可以包括各种不同的行动。一般来说，它是指国家为控制某些武器、武器特征、武器应用或武器运载系统的研究、开发、生产、部署或使用而达成的协议。军备控制可以通过各种方式实施，包括具有法律约束力的条约、由国家长期实践产生的习惯国际法或不具法律约束力的文书。成功的军备控制甚至可以通过国家之间没有明确说明但却导致相互克制的默契来进行。贯穿武器开发和使用生命周期的军备控制措施（见下图）：







二、军备控制的可取性和可行性


一、军备控制是成功还是失败，取决于其可取性和可行性


军备控制的可取性包括国家对一种武器的军事价值与其可怕程度的计算。因此，军备控制的可取性是指各国为自己的目的保留武器的愿望与限制对手使用武器的愿望之间的平衡。军备控制的可行性是指影响其成功的社会政治因素，包括各国明确所需限制程度的能力、各国遵守限制使用协议的能力、各国核查遵守情况的能力以及为确保协议成功所需的国家数量。可取性和可行性都很高时，军备控制最有可能取得成功。


二、预计技术将如何发展的困难是监管新兴技术的一个挑战


纵观历史，那些拥有政治权力的人曾试图控制破坏性武器，如早期的火器或弩箭，这些武器威胁着现有的政治或社会秩序。各国也曾试图管制那些在危机情况下可能造成过度不稳定的武器，如中程弹道导弹、反弹道导弹系统、天基大规模毁灭性武器。引发军备竞赛而被视为破坏稳定的武器也可能受到某种形式的管制。例如，1922年《华盛顿海军条约》签署国的一个主要动机是希望避免一场昂贵的海军军备竞赛。


三、人工智能的影响
由于各种原因，人工智能技术给军备控制带来了挑战。人工智能技术是分散的，它的许多应用是双重用途的。作为一项新兴技术，其全部潜力尚未实现，这可能会阻碍对它的控制。核查任何人工智能军备控制协定也将是具有挑战性的，各国可能需要制定方法来确保其他国家遵守协定，以便能够放心地限制其能力。


虽然这项工作非常困难，但并非在所有情况下都无法克服。在某些条件下，军备控制对某些军事人工智能的应用可能是可行的。即使各国在军事人工智能领域展开竞争，它们也应该寻找机会降低风险，包括在可行的情况下采取军备控制措施。

四、前进的道路
与人工智能当前时刻最接近的历史类比是20世纪初工业时代技术的军事化以及各国当时为控制这些危险的新武器所做的尝试。在1868年的《圣彼得堡宣言》之后，各国在第一次世界大战前和第二次世界大战前都进行了大量的军备控制活动。当时的主要军事强国在1870～1940年期间进行了17次讨论军备控制的会议，但并非所有这些努力都最终达成了协议，也并非所有被批准的条约都是在战时制定的，但外交活动的规模表明，要在军备控制方面取得哪怕是微不足道的成果，都需要付出巨大努力和耐心。


当前，政策制定者、学者和公民社会成员可以采取以下方式来探索人工智能军备控制的潜力。


首先，加强各个层面的会议和对话，以便更好地了解该技术、如何在战争中使用该技术以及潜在的军备控制措施。学术会议、交流以及讨论有助于促进国际各方之间的对话和相互理解。


其次，对潜在军备控制措施的分析必须与技术本身及其能够实现的行为紧密联系在一起，这些对话必须包括人工智能科学家和工程师，以确保政策讨论基于技术现实。


此外，由于人工智能技术仍在不断变化和迅速发展，那些考虑军备控制的人必须准备好适应性，并随着技术的成熟将注意力转移到人工智能技术的不同方面或其促成的军事能力。跟踪人工智能的进展也将有助于阐明军控的可能性和未来的挑战。


政策制定者可以采取一些措施，通过控制其发展，特别是硬件方面的发展，使该技术在长期内更加可控。


对全球供应链中的关键节点颁布出口管制，可能有助于控制人工智能基础技术的传播，集中供应链并提高未来的可控性。政策制定者在运用各种产业政策工具时应审慎行事，以确保他们注意到其行动的长期后果以及他们是否保留了对某项技术的集中控制，从而有能力在未来对其进行限制。


在人工智能革命的黎明，尚不清楚军队将如何使用人工智能、它将如何影响战争以及哪些形式的军备控制是可取和可行的。然而，政策制定者现在可以采取措施，为未来可能的军备控制措施奠定基础，其中不仅包括塑造技术的发展，还包括政治气候。军备控制的历史表明，军备控制具有高度的路径依赖性，军备控制措施往往建立在先前成功的军备控制协定的基础之上。现在的一小步可以在今后的道路上取得更大的成功，各国应该寻求相互制约的机会，尽可能降低战争的可怕程度。
来源于元战略 ，作者元战略观察员