特朗普与科技巨头签署自愿性AI安全协议，“具有道德约束力”

据央视新闻报道，当地时间9月29日，美国总统特朗普表示，他在白宫会见多家科技企业负责人，讨论人工智能发展，并共同签署一份相关协议文件。

与会者包括SpaceX CEO埃隆·马斯克、Meta CEO马克·扎克伯格、微软CEO萨蒂亚·纳德拉、英伟达CEO黄仁勋、谷歌CEO桑达尔·皮查伊、Anthropic CEO达里奥·阿莫代伊以及OpenAI总裁格雷格·布罗克曼等近20名企业负责人。

特朗普29日与科技巨头们举行午餐会的座位表

会议的核心成果之一，是一份自愿性AI安全与治理控制标准。特朗普政府与Anthropic、谷歌、Meta、英伟达、OpenAI及XAI六家公司的首席执行官共同签署了一份名为《白宫超级智能协议：前沿责任联合承诺》的单页文件，宣布将监管主导权交由行业自身，并正式将“人工智能”更名为“超级智能”。特朗普还签署了一项行政命令，将政府文件中人工智能的名称改为“超级智能”。

“这几乎就像是一部宪法。”特朗普谈及该协议时表示。他还强调，美国在AI领域“领先幅度很大”，而维持这一优势的关键正是“不扼杀增长”。

美国众议院议长迈克·约翰逊将该协议定性为行业“自愿原则声明”。根据特朗普在社交媒体平台上公开的文本，签署该“AI宪法”的企业已同意建立引入“独立审计机构”的监督机制，以评估AI系统的运行是否符合其初始设计预期。此外，各科技巨头还承诺将通过强化监控与防护手段，尽最大努力防范人工智能工具对各类技术系统进行“非预期的入侵或未经授权的访问”。

当被问及该协议是否具有约束力时，特朗普说：“我认为它在道义上具有约束力。”《纽约时报》指出，这份单页文件并非正式命令，依赖于各公司履行承诺，尚不清楚由谁来执行。

《华盛顿邮报》报道称，该协议标志着白宫迄今为止为应对日益增长的人工智能风险担忧而采取的最重要行动，反映了许多构建先进人工智能系统的实验室已经采取的措施，但远未达到一些技术专家警告的、随着人工智能的快速发展而必要的政府干预。

在宣布达成这项协议之前，特朗普称他在白宫与约翰逊以及包括亚马逊创始人杰夫·贝佐斯在内的科技公司高管，共进了一顿“富有成效”且“非常友好”的午餐。

活动结束后，一名记者提问在场的高管是否同意不需要政府监管、行业可以自我监管。黄仁勋说：“创新、技术和安全之间并不冲突。我们需要创造新技术来提升人工智能的能力，但我们也需要创造新技术来提升人工智能的安全性。”

阿莫代伊表示，高管们签署的这项协议旨在让公众相信人工智能能够“按照我们所有人的预期方式”运行。“这只是个开始。”他说。

特朗普还提出成立一个由约10人组成的新委员会来监督人工智能发展的可能性，并暗示部分成员可能包括当天午餐会上出席的科技公司高管。他还表示，即将任命一位新的人工智能沙皇，负责统筹政府的人工智能计划，并暗示他将在未来几天内宣布人选。