美军祭杀手锏应对中俄引担忧：人类将来会被机器人士兵瞄准吗

【编者按】

迄今为止，全球有40个国家和地区制造自动化武器——“机器人武器”，包括该领域的领导者美国。但美国也是世界上唯一一个公开颁布禁令禁止使用这类武器的国家（于2012年）。然而，这种局面可能很快被打破。美国《华盛顿邮报》网站近日发表题为《五角大楼想要威慑俄罗斯和中国的奇特新武器》一文，声称军方高级官员们已经开始公开谈论利用人工智能和机器学习的最新手段，以创建机器人武器、“人机团队”，以及升级版超能战士，而此类高技术系统是应对中俄军事快速进步的最佳方式。

早在去年7月，意识到这种潜在风险的人工智能和机器人领域的研究人员，发布了一封公开信，呼吁“禁止超越人类有效控制范围的进攻性自主武器”，得到了诸如斯蒂芬·霍金、伊隆·马斯克等一批著名科学家和企业家的支持。但在全球范围，这一禁令倡议并未得到一致支持。

为应对来自中国和俄罗斯的潜在威胁，美国国防部副部长罗伯特·沃克和现任国防部长阿什顿·卡特正在推出他们勾画的“第三次抵消”战略。他们明确指出，美国持续了四分之一个世纪的全球霸权时代已经结束了，俄罗斯、中国和其他国家正在挑战美国霸权，因为这些国家都在研发弹道导弹、巡航导弹、防空系统、濒海海军和现代武装。中国有大量的资源和快速增长的经济，俄罗斯有强大的军事实力和丰富的战争经验，同时二者还都拥有核武器，这些业已对美国随心所欲地动用武力构成了严峻挑战。

为了应对这种挑战，沃克和卡特提出要实现技术上的跨越 。他们提到了20世纪50年代在与苏联坦克和传统武装的对抗中，美国研发出了小型化战场核武器，称之为“第一次抵消”。20世纪70年代又研发出精确制导武器，称为“第二次抵消”，事实上，五角大楼这才真正第一次使用“抵消战略”这一术语。据说这是因为直接应用了微电子技术，因为在那个时期，美国是这个领域的世界领袖。后来在80年代，这一发展充斥在苏联的各种著作之中，被视为美国的“军事革命”，后又被广泛地与美军在1991年海湾战争中漂亮地摧毁伊拉克前领导人萨达姆坐拥的苏式武器库联系到了一起。

计算机集成式军事革命

沃克和卡特正确地洞见到技术的全球化和复杂军事技术的扩散总体上构成了“第二次抵消”的出现。但是“第三次抵消”是由什么组成的呢？他们“第三次抵消”的杀手锏是继续推动人工智能和自动化武器的计算机集成式军事革命，这包括了自主式猎手导弹、无人机群、机器人坦克、水下运载器和任何可能的基本技术，当然也包括情报分析、决策支持、指挥和控制系统，这些都是高度电脑化的。从战场到战略措施的整个致命决策范围都对自动化敞开了大门。

基本上，他们就是在推动机器人的军备竞赛。如果这成为美国今天的政策，那么美国参与日内瓦关于致命性自动化武器（Lethal Autonomous Weapons）会谈的严肃性就将受到质疑。美国谈及“人-机伙伴关系”，并在2012年采纳了一项要求“适当程度的人类判断力”的政策指导。但是，在同一份文件中也清楚写到，不管怎样，这种“适当程度”的标准完全不会限制致命性自动化机器人何时、何地进行攻击。这一政策还对今天的“制导弹药”演变为“终结者”似的杀伤性机器人的研发，持开放包容态度。

美国政策的关键性漏洞在于，对“半自动化武器”的关切远远少于完全自动化武器，在现有政策的许可下，半自动化武器已经获批进行研发、获取以及使用。这包括以人类为打击目标的猎手导弹。最主要的例子是2018年美国计划部署的的远程反舰导弹（the Long Range Anti-Ship Missile）。这些导弹可以自动捕捉、辨认、打击舰艇，而且很有可能调节以适应陆地目标的打击。

如果未来我们认定说所有极端组织“伊斯兰国”的成员都是合法的打击目标，应对尽快消灭干净，那我们是不是可以派遣这些机器去搜索他们呢？随着技术进步，我们为什么就不会遭遇相同的问题（即被机器人锁定）？如果我们要避免这种情况的发生，就需要划出一条底线，确保人类能够控制并且负责任地使用（这类）武力。

应签署一份全球性禁令

笔者认为的解决方法就是签订一份全球性的禁止条约：只能选择性地保留一些自动化武器。只有用来抵制武器攻击从而保护生命的纯防御性（自动化）武器系统才可能获准存在，也许一些已经存在的武器类型可以不受新条约限制。

实施禁令的办法就是扭转事态：我们要尽力加强人的管控，强调责任。这已经难度够大，即便显然武器是在人类的控制下，但要确保任何时间武器都是处于负责任的人类的控制之下，这是一份自动化武器禁令所要全面完成的任务。

可能存在违反禁令嫌疑的例子包括无人机和哨兵机器人（sentry robots），或遥控或自动或二者兼备。禁令签署国需要保存记录，以证明这些致命性武器都是在人类控制之下执行行动的，以及人类不论在“杀人链”上的任何情形下，每做一个致命性的决定，都是有数据在案以供查证的。这些记录可以设密码、标记时间以证明真实性。

军事院校需要把人为控制、责任、尊严、主权、团结、生存等原则当做军事法和军事伦理的古老人性原则加以传授。这些原则构成禁令条约的根基，从而避免一场灾难性的军备竞赛甚至是战争。

今年4月，有关国家将再度聚集到日内瓦商讨致命性自动化武器，但（可预见）会谈进程将十分缓慢，而技术却日新月异，事关命运的先例正在被创造。一旦自动化武器竞赛的逻辑站稳了脚根，那么从步兵到海军到核武器全方位的“现代化”将接踵而至，造成一轮又一轮的压力。

基于“自动武器”的抵消战略

同时，卡特和沃克还提出了一套“抵消战略”针对中国和俄罗斯，这套战略完全基于对“自动化武器”的认可，除了还带一点坏科幻小说的味道。沃克担心，当美国还在进行“人类工具化”的伦理学讨论时，美国的对手们已经在“追求提升人工作战行动”。

同样不明智的想法还有对高性能激光枪和轨道枪的热衷，和一些经典的枪支弹药、小型轻便武器和导弹相比，这些高性能的武器效果并不好。

高超音速武器就是一件重量级玩意。尽管这一技术变得相当具有竞争力，但仍将继续局限在实验层面，而没有运用到实战中。即使这项技术日臻完善，高超音速导弹也不会比现有的弹道导弹或巡航导弹有太多优势，因为它既不会太过削弱，又不会太过加强威慑能力。任何声称高超声速武器会带来革命性、重要性的言论都还缺乏依据。

美国在软件和人工智能方面的领导性地位是毋庸置疑的，然而，这也受到来自亚洲和欧洲竞争者的挑战。在沃克和卡特视为美国主场优势的这些技术及其他前沿新兴科技领域，美国国内一直保持了“非工业化”，但由于先进科技的全球化趋势，美国的优势何在呢？老实说，这完全是幻想，因为中国和俄罗斯已经展现了在软件、网络战和新兴现代武器方面的能力，同时，他们也在增加人工智能的投资。

美国不应该勾画一幅新一轮三十年军备竞赛的前景，让核武器等着杀人机器人用来挑起战争。美国应该提出军备控制的新思想。停止试验禁令将会叫停高超声速导弹，终止太空中命中摧毁式导弹防御系统和反卫星武器进行碰撞测试，将会减缓太空军备竞赛。太空武器和自动化武器的广义禁令可能会产生更广泛的界定，其实施可能纳入类似于国际原子能机构和禁止化学武器组织的专家机构参与其中。

这是一项野心勃勃但十分必要的任务。任何国家都能提供想法，但只有中国、俄罗斯和美国能更好地发挥领导性作用，通过单方面停止试验、外交斡旋和发表声明的方式。

（本文作者系美国物理学家，现任北卡罗来纳大学的和平、战争与防御课程兼职教授，刘畅 译）