Anthropic提议全球AI暂停开发 警告自我改进模型或两年内出现

Anthropic呼吁全球协调暂停前沿AI开发，这再度引发一场辩论：在机器学会无需人类监督即可自我改进之前，该行业能否自我监管。

Anthropic警告称，AI系统可能在两年内达到"递归式自我改进"——即在没有人类干预的情况下重写自身代码的能力，并提出全球协调暂停以放缓前沿模型的开发。

"我们认为，让世界拥有选择来放缓或暂时暂停前沿AI开发，以便社会结构和对齐研究能够跟上技术进步的步伐，这对世界来说是一件好事，"Anthropic内部研究主管Marina Favaro和政策主管Jack Clark在周四的一篇博客文章中写道。

这家估值约9650亿美元的公司——上月完成650亿美元的H轮融资——发布内部数据显示，其最先进模型自主完成软件任务的速度正在快速加速。Clark表示，一些系统可能在两年内实现递归式自我改进，尽管该公司承认这一现象仍属理论层面，从未在生产环境中得到验证。

这一提议发布之际，Anthropic和OpenAI正竞相推进上市——Anthropic本周已向美国证券交易委员会秘密提交IPO文件——两家公司正在一个预计未来五年AI基础设施支出将达到1万亿美元的市场中争夺主导地位。如果执行放缓措施，将重塑竞争格局，并可能推迟数十亿美元的预期收入。

全球暂停的可行性

分析师表示，在全球范围内执行AI开发的全面暂停将面临几乎无法克服的障碍。Enderle Group的Rob Enderle称，全球暂停"实际上不可能"，因为经济和国家安全利益太过重大，任何主要大国都不愿自愿放慢速度。与核武器不同——卫星图像可以验证导弹发射井的建设——AI训练可以在私有数据中心内进行，分散的计算资源使得监控难度大得多。

"追踪全球分散的计算资源、私有数据中心和算法研究，远比监控核设施等物理实体困难得多，"Enderle表示。

Anthropic承认了这一验证挑战，将其与冷战时期的军备控制条约相提并论，但同时指出隐藏AI训练比隐藏导弹基础设施容易得多。该公司表示，其Anthropic Institute研究部门将与政策制定者和研究人员合作探索验证机制，但并未提出具体的时间表或框架。

批评者质疑Anthropic动机

这一提议遭到业内人士的尖锐质疑，他们认为Anthropic正在利用安全言论来巩固其竞争地位。风险投资家David Sacks——唐纳德·特朗普总统的非正式顾问——此前曾指责该公司推行"监管俘获议程"，试图禁止低成本开源模型以提振对其专有算法的需求。

OpenAI首席执行官Sam Altman也提出类似指责，将Anthropic的警告描述为"基于恐惧的营销"。他在上月的一份声明中表示："说'我们造了一颗炸弹，马上就要扔到你头上。我们将以1亿美元的价格卖给你一个防弹掩体'，这显然是令人难以置信的营销手段。"

OpenAI周三发布了自己的报告，认为"民主政府——而非仅靠私营公司单打独斗——必须最终为AI开发制定规则、保障措施和问责机制"，这一立场实际上拒绝了Anthropic以行业为主导的暂停提议。

Constellation Research的Holger Mueller表示，他很欣慰看到Anthropic提出伦理问题，但他质疑该公司是否在试图"冻结现状以便迎头赶上，或仅仅是保持领先"。他指出，冻结将有助于Anthropic保持在企业对企业AI系统中的地位，并可能扩大市场份额。

宾夕法尼亚大学沃顿商学院教授Ethan Mollick在X平台上发帖称，这篇博文中包含了"一些自省、一些营销，以及大量关于Anthropic所认为的AI近期前景的非常真诚的信念。"

投资者影响

对投资者而言，这场辩论为这一行业带来了监管不确定性——该行业最大的参与者——Anthropic、OpenAI、谷歌、微软和Meta——每年在AI基础设施上的总支出超过2000亿美元。如果协调暂停获得支持，可能拖累Nvidia的营收增长预期，后者最近一个季度的数据中心收入为475亿美元，直接与AI模型训练需求挂钩。如果该提议被否决，可能消除一个近期的悬而未决因素，但会加剧对安全实践的审查。

Anthropic目前尚无公开股票代码，但其秘密提交的IPO文件意味着公开市场投资者很快将直接参与这场辩论的走向。该公司650亿美元的融资轮由Spark Capital和Menlo Ventures等投资者领投，估值约为年化营收的40倍——这一倍数假设公司持续快速增长且不受监管干扰。

本文仅供信息参考，不构成投资建议。