奥特曼在OpenAI全员大会谈“超级智能三大终局”：全球独立机构监管、实验室合作或一家独大

当人工智能继续向“超级智能”逼近，最终应该由谁来控制最强大的AI？

OpenAI首席执行官山姆·奥特曼（Sam Altman）近日在该公司的一次全员大会上透露了他的观点。在他看来，目前AI行业围绕安全开发超级智能的三种可能路径：建立类似国际原子能机构（IAEA）的全球监管机构对AI行业进行监管；由主要AI实验室共同组成一个类似欧洲核子研究中心（CERN）的统一组织；或者某一家公司率先实现超级智能取得压倒性优势，让其他竞争者无法继续追赶。

根据《The Information》报道，奥特曼明显更倾向于第一种路径，并直言第三种方案“很糟糕”。

按照第一种方案的设想，当一家公司的AI能力或计算资源达到某个门槛后，就需要接受国际机构的检查、审计和安全测试，甚至受到部署范围以及安全等级方面的限制。

这并非奥特曼第一次提出类似构想。

早在2023年5月，奥特曼就与OpenAI联合创始人格雷格·布罗克曼（Greg Brockman）、时任首席科学家伊利亚·苏茨克维（Ilya Sutskever）共同发表《超级智能治理》一文，提出未来可能需要一个“类似国际原子能机构的超级智能监管机构”。

当时OpenAI提出，对达到一定能力或算力门槛的AI开发项目，国际机构应有权检查系统、要求审计、测试其是否符合安全标准，并追踪算力和能源使用情况。

从奥特曼此次内部讲话来看，这一构想仍然是他较为认可的超级智能治理路径。

至于第二种方案，奥特曼称之为“Demis plan（Demis方案）”，因为这是Google DeepMind首席执行官德米斯·哈萨比斯（Demis Hassabis）此前提出的一种设想。其基本思路是借鉴欧洲核子研究中心CERN的模式，让主要AI实验室通过一个国际性机构共同开发最先进的AI。

据报道，在奥特曼此次描述的版本中，全球主要AI公司可能实际上合并进入，或者通过同一个组织开展前沿模型研发，再由这一组织向参与合作的国家提供新的AI模型。

相比第一种方案，这意味着不仅监管要全球协调，前沿AI的研发本身也可能从企业之间的竞争，转向某种联合开发模式。

事实上，OpenAI在2023年的《超级智能治理》中已经提出类似设想：全球主要政府可以建立一个共同项目，使当前领先的AI研发力量成为其中的一部分；另一种方式，则是让各家机构共同限制前沿AI能力增长的速度。

奥特曼将第三种方案称为“Eliezer plan（Eliezer方案）”，名字来自长期关注AI生存风险的研究者埃利泽·尤德科夫斯基（Eliezer Yudkowsky）。

按照这一思路，第一个开发出超级智能的组织，可以利用超级智能取得压倒性的经济和技术优势，阻止其他开发者继续构建可能带来危险的超级智能。

奥特曼举出的极端描述是，当某家AI公司实现“递归式自我改进”（recursive self-improvement）后，其AI能够不断提高自身能力，并最终获得足够强大的经济实力，去“熔掉其他所有人的GPU”。

这里的“熔掉GPU”并不一定是字面意义上的物理摧毁，更接近一种极端的赢家通吃场景：一家AI公司控制了关键算力、经济资源以及技术能力，以至于其他机构实际上无法继续参与超级智能竞赛。

奥特曼明确表示：“显然，我认为这个方案很糟糕。”他说之所以将其列入讨论，只是为了保证方案的完整性。

奥特曼此前也多次表达对AI权力过度集中的担忧。今年4月，他在OpenAI发布的原则文件中表示，未来的权力既可能集中在少数几家控制超级智能的公司手中，也可能以更加分散的形式交给普通人，而OpenAI更希望看到后者。

奥特曼此次内部讨论的一个重要背景是，全球最领先的AI公司正在越来越频繁地讨论一个此前相对遥远的问题：如果人工智能真的跨过AGI并继续进入超级智能阶段，现有以企业竞争为核心的发展方式还能否持续？

今年以来，OpenAI在公开政策表述中对“超级智能”的使用也明显增加。OpenAI今年6月发布的政策文件表示，随着世界向超级智能迈进，仅靠渐进式政策调整可能已经不足以处理相关挑战。

与此同时，美国政府对前沿AI安全的介入也在加深。据路透社10月16日报道，美国新成立的“超级智能工作组”已经召开首次会议，并启动AI风险研究和相关评估机制。