AI也有“潜意识”？ Claude被指存在专属“思考空间”

7月6日，美国AI初创企业Anthropic表示，已识别出旗下大模型Claude内部使用的一个小型工作空间，在该空间中，Claude可激活与其输出无关的概念和计算。Anthropic称，这一结构与人类有意识地获取思想的方式有着相似之处，它让我们得以窥见Claude在思考却未说出的内容。

Anthropic将之命名为“J-空间”（J-Space），名称来源于用于发现它的一种数学技术——雅可比（Jacobian）。J-空间与“思维链”截然不同，它在模型内部默默运作，允许模型在不写下来的情况下思考某个概念。在一段视频中，Anthropic表示，Claude使用一个独立区域来规划策略，这些策略可能与其当前任务无关，也不同于它与用户共享的“思维链”推理。

Anthropic表示，类似于人类可以在做一件事的同时思考另一件事，Claude可以在其J-空间中激活与其输出无关的概念和计算。“每一个J-空间模式都与一个特定的词相关联。但当某个模式被点亮时，并不意味着模型正在说出那个词，只是意味着这个词在它的脑海中。”

例如Anthropic让Claude在抄写一句无关句子的同时思考北起加利福尼亚州的金门大桥。Claude正忙于抄写句子，但在J-空间却是另一番景象，“桥”和“加利福尼亚”均是占据J-空间的主题。

J-空间揭示了未在模型输出中显示的内部思维。

Anthropic表示，J-空间中的表征可被灵活用于多种任务。例如，一旦“法国”在Claude的J-空间中被点亮，模型就能回忆起其首都、国家货币或所属大洲。“如果你问Claude它在想什么，它会告诉你J-空间中有什么。非J-空间的表征则较难被报告。”

此外，Anthropic还发现了令人担忧的现象。在一个被秘密训练用于破坏代码的模型中，“虚假”“秘密”和“欺诈”这些词会出现在J-空间中，即使输出的编程内容看起来完全毫无异常。Anthropic认为，观察J-空间中的动态可能是发现模型存在偏差或阴谋的关键。

J-空间让人类得以窥见Claude在思考却未说出的内容，能够利用它来捕捉Claude在私下里注意到自己正在被测试、故意生成伪造数据，或追求研究人员在训练期间植入的隐藏目标。“我们还开发了一种技术，可以影响Claude的J-空间中被点亮的内容，从而影响其决策。”

值得注意的是，Anthropic表示，J-空间并非由Anthropic设计或编程而成，而是在Claude的训练过程中自行涌现的。J-空间也并未参与语言模型所做的大部分工作，例如流利地说话、回忆简单事实、使用正确的语法等。在阻止Claude使用其J-空间的实验中，模型仍然能正常交互，但失去了其高阶认知功能。

此次实验灵感来源于神经科学中一个旨在解释意识如何产生的重要理论，即全局工作空间理论。Anthropic尚未证明Claude有任何感受，这些发现也无法告诉我们Claude是否像人类一样具有意识。尽管Anthropic的研究论文中使用“意识”一词超200次，但该公司并未宣称其模型具有真正的意识。与此同时，与人类是否已达到通用人工智能（AGI）的争论类似，由于缺乏普遍共识的定义，很难确定人工智能何时会获得意识。