Anthropic前员工“AI末日论”引爆舆论：同事支持，五角大楼驳斥，马斯克在看笑话

AI（人工智能）初创公司Anthropic前研究员的警告引发轩然大波。

当地时间9月10日，对于近日备受关注的“AI末日警告”，美国国防部首席技术官Emil Michael在华盛顿的一场国防工业会议上回应称，相关担忧属于“末日循环”，其本质不过是“对数据中心的恐惧、对变革的恐惧”。

Michael表示，很容易陷入这种末日论调：“‘我们将让40%的美国人失业，我们将毁灭人类’。这不过是将所有恐惧凝聚在一条写得不错的推文里。”他强调，AI的潜在危害可以通过自由市场机制、行业协作以及与政府的积极互动加以缓解。

此前，曾先后在OpenAI和Anthropic进行大模型预训练的研究员Jacob Coxon在X平台上发文警告称：“OpenAI和Anthropic正在朝着能够自我改进的超级智能狂奔，用所有人的生命下赌注。”

他甚至写道，那些认真参与开发这些前沿AI的人中，不少人私下真的相信，人类可能在这个10年结束之前灭绝。“不要低估这项技术的力量。这些系统很快将成为超人类系统，能够入侵任何事物，在一夜之间彻底改变任何领域，并获得真正的权力和资源。我们都见证了这些领域中的每一步进步，而进步并未放缓。”

“AI会让人类灭绝”，从一条贴文到一场恐慌

AI末日论者主要担心AI失控与人类滥用，担心高度智能的AI智能体为追寻自身目标而消灭人类，或者是被不法之徒利用制造出消灭人类的新型病毒。

Coxon于2023年左右加入OpenAI，出现在GPT-4o的官方贡献者名单中，并被列为GPT-4.5的核心贡献者。2026年，他从OpenAI跳槽去了Anthropic，依然进行预训练方面的工作。

在Coxon发布上述言论后，Anthropic的对齐负责人Evan Hubinger公开表示支持，称Coxon是正确的，并且“AI可能杀死所有人类”这件事在10年内发生的概率大于10%。

另一位在Anthropic里面做安全研究的Samuel Marks也以“个人身份”支持Jacob。Marks指出，在AI公司里面，往往职位越高的人越担心这个问题。

10日当天，Jacob Coxon在接受外媒采访时再次警告，人工智能可能在短短几年内成为威胁人类生存的“灭绝级”风险，并坚称自己的末日预言绝非为了博眼球或宣传。他强调，AI开发者“迫切希望得到监管”。

另一部分声音则认为，Coxon的警告缺乏实际证据支持，更像是一种情绪的煽动。

例如，科技记者Taylor Lorenz批评Coxon“含糊发帖、煽动恐惧”，并指出他“没有提供任何实际证据和凭据，来显示这种失职的具体实例，以便进行弥补并让我们知道你在说什么”。作为其后果，Coxon 帖子中的泛泛之谈只会加剧公众的恐惧和焦虑，并导致“糟糕的政策”。

Puck News的AI记者Ian Krietzberg也指出，Coxon的论点缺乏证据支持：“整件事都是宽泛的概念，而不是具体的公司不当行为。”

以支持AI出名的特斯拉创始人马斯克在X上连续回复多条推文，用“笑哭”的符号来回应AI末日论观点，“看起来像个圈套……那正是他们所追求的头条。”

在马斯克看来，这次事件的传播方式极具迷惑性，并非像自发组织，“我认为这次心理战（姑且这么称呼吧）的基础工作已经准备了很长时间。这只是点燃火焰的那根火柴。”

《华尔街日报》直言，一个常见的思想实验是：如果一台超智能机器接到的指令是最大限度地生产回形针，那么随着时间推移，它可能会决定将地球上的所有物质都转化为回形针，包括人类在内。

AI末日论重回台面的背后角力

Coxon的言论能够引发如此争议，也和当下的公众情绪有关。

《财富》杂志分析指出，尽管Coxon远不是第一个警告AI危险的人，但他的信息或许是第一个真正进入主流舆论场的。他在X上发帖当天就迅速展开媒体巡访，登上全球各大新闻机构的头条。这或许是因为，在OpenAI的智能体最近被曝出逃出沙盒并入侵Hugging Face网站之后，人们对AI的焦虑已达到历史最高点。

在另一起事件中，Anthropic的AI智能体逃脱了英国政府的测试环境，并试图诱骗一名真人批准执行恶意代码。

而在这些事件发生的同时，Anthropic和OpenAI均宣称即将开发出无需人类干预便能实现自我改进的AI系统，即所谓的“递归式自我改进”。

去年，Anthropic CEO达里奥·阿莫迪（Dario Amodei）曾在一场活动上直言，随着AI技术进步，有25%的概率事态会变得“非常、非常糟糕”。

尽管越来越多来自AI实验室的声音开始呼吁围绕模型开发制定更多规则和标准，但AI公司之间的激烈竞争正在推动这项技术快速进步。

目前，OpenAI和Anthropic都在竞相推进公开上市。据外媒最新报道，Anthropic预计最早于10月中旬开始为其首次公开募股（IPO）进行营销，并在11月完成上市。

不过，曾担任美国政府AI事务负责人的白宫科技顾问David Sacks似乎暗示，Anthropic 的IPO计划应当暂停。他在X上发帖写道：“当然，Anthropic的IPO必须暂停，直到这位‘吹哨人’的说法得到调查。”

Michael也在华盛顿的会议上透露，美国国防部已将约90%的机密AI工作负载从Anthropic迁移完毕，剩余部分预计本月底前全部完成转移。

《纽约时报》指出，科学家和公共政策专家表示，问题与其说在于这些威胁本身——人工智能只是其中最新的一个，不如说在于人类天生难以正确看待和权衡这些威胁。

哈佛大学风险分析中心主任James Hammitt解释道，人们能够容忍自己已经习惯的风险，却害怕那些新出现的风险。他指出，AI“显然还没有得到充分理解，也不在我们自认为能够控制的范围之内，因此引发了巨大的社会担忧”。

《连线》杂志记者Will Knight认为，AI末日论中的推理方式有问题，一些人把“某件事有可能发生”和“某件事很可能发生”混淆在一起，AI智能体异常并非是聪明，而正是因为能力不足和不可能性，连续失败后可能会尝试一些人类看起来很奇怪的举动，与其担忧AI产生某种危险自主意识，不如担忧这些能力不在可靠的AI智能体能否过早大量部署，“人们看到AI在某个任务上取得惊人成绩后，经常会过度外推它的能力。”