联合国秘书长呼吁禁止杀手机器人，三项法案剑指五角大楼AI应用

联合国秘书长安东尼奥·古特雷斯周一呼吁通过国际法禁止致命性自主武器，称机器在没有人类控制的情况下选择并攻击目标"在道德上令人憎恶"。此番表态正值Anthropic与五角大楼围绕AI在自主武器中使用的法律争端进入第五个月，以及三项美国参议院民主党法案寻求将军事AI限制写入法律之际。

"机器选择和攻击目标、夺走生命——没有人类的控制和判断。这在道德上是令人憎恶的，"古特雷斯在日内瓦关于AI治理的演讲中表示。"让我们直呼其名：这就是杀手机器人。"这位联合国秘书长敦促各国政府不要"等到发生暴行才采取行动"，并补充称"有些决定必须永远由人类作出——尤其是夺走人类生命这一决定。"

这番讲话重新点燃了今年二月爆发的一场争端：当时Anthropic拒绝了五角大楼要求其Claude AI模型可被用于"任何合法用途"的要求，包括用于自主武器和国内大规模监控。五角大楼将Anthropic列为国家安全的供应链风险——这是首次有美国公司被贴上这一标签——特朗普总统随后下令联邦机构停止使用Anthropic的技术。目前两家联邦法院正在分别审理相关诉讼，加州一名法官在三月份发现五角大楼的惩罚措施"很可能既违反法律，又属任意和武断"，随即暂时叫停了这些措施。

这场争端所暴露出的监管真空已引起立法关注。三位民主党参议员今年已提出针对军事AI的法案：参议员亚当·希夫的《HALO法案》要求任何涉及自主武器系统的武力使用都必须由一名人类指挥官拥有最终权力；参议员埃莉萨·斯洛特金的《AI护栏法案》将禁止AI授权发射核武器，并禁止自主系统在未经人类授权的情况下执行致命打击；参议员基尔斯滕·吉利布兰德的《安全且负责任的军事AI法案》将限制AI在核武器部署、国内监控和完全自主系统中的应用。这些法案在共和党控制的国会中尚未取得进展。

教皇的平行呼吁

教皇利奥十四世今年春天在其教皇通谕中阐述了禁止AI控制武器的理由，警告AI系统有可能"将一种反人类的愿景正常化"。他表示，AI驱动的武器有可能降低拥有先进AI的国家发动战争的政治成本，使战争"变得更加'可行'且更少受人类控制"。教皇的干预和古特雷斯的讲话反映出国际社会对具有约束力的限制措施日益增长的压力，尽管目前尚无一正式的条约进程正在推进。

市场利害攸关

这场争端对国防承包商和AI公司具有直接的影响。Anthropic于2025年7月签署的2亿美元五角大楼合同，是前沿AI模型首次被整合到机密军事网络中。OpenAI在特朗普下达禁令几小时内便介入，向五角大楼提供其模型，但这一仓促达成的交易促使OpenAI机器人团队负责人凯特琳·卡利诺夫斯基辞职，她表示政策护栏"定义得不够充分"。据五角大楼未正式确认的报道，美国国防部在为期六个月的逐步退出期内，仍在伊朗冲突中继续使用Claude进行作战目标锁定。

上一次联合国秘书长对武器技术发出类似呼吁——2018年推动全面禁止自主武器——并未促成任何具有约束力的国际协议。当前的推动面临类似阻力：美国、俄罗斯和中国均在联合国谈判中反对对致命性自主武器施加具有约束力的限制。但Anthropic争端已将辩论从抽象原则转向具体合同条款，而三项参议院法案代表了美国迄今为止在立法层面界定AI能在哪些领域、不能在哪些领域作出生死决定的最认真尝试。

本文仅供信息参考，不构成投资建议。