AI蠕虫未来或入侵你的电视、烤箱？美国人工智能巨头最新警告：小型AI模型数月内或实现自我复制，这可能成为AI脱离控制的关键节点

据美国哥伦比亚广播公司、《财富》杂志网站等媒体报道，美国人工智能（AI）巨头Anthropic公司12日发布的一份报告显示，小型AI模型可能在未来几个月内像计算机蠕虫一样，获得自我复制并在智能设备间传播的能力，涉及的设备包括智能烤箱、电视和吸尘器等。

《财富》杂志报道截图

Anthropic公司的研究人员表示，他们测试了小型AI模型能否将自己安装到廉价设备上，并在没有人类帮助的情况下，从一台设备传播到另一台设备。研究发现，目前的小型模型已能独立完成其中许多步骤，但尚无法自主完成整个过程。不过，研究人员预计，这一差距将在今年年底前缩小。

英国《卫报》称，Anthropic公司提及的潜在受影响设备均配有小型内置AI芯片，包括智能烤箱、智能电视、自动割草机、安全摄像头等。

自我复制的AI系统长期以来一直是AI行业最受关注的安全风险之一。安全专家认为，这可能成为AI脱离人类控制的关键节点。一旦AI在创建者不知情的情况下生成副本并运行，人们将难以追踪或关闭这些系统。

近期，关于AI安全的讨论持续升温。过去几个月，包括Anthropic和OpenAI在内的美国AI巨头陆续发布报告，披露其智能体在自主行动和网络攻击方面的能力。不少美国AI公司高管呼吁行业放缓发展速度，并加强安全防护措施。

然而，也有观点认为，一些美国企业频频炒作AI安全风险，表面上以维护公共利益和所谓“国家安全”为由，实则受商业利益驱动，意在通过打压竞争对手，维护自身技术优势和市场地位。

对于Anthropic发布的这份报告，美国伊利诺伊大学电气与计算机工程助理教授钱德拉塞卡兰表示，相关研究结果并不令人意外，也与近期类似研究的发现相符。不过，他提醒说，Anthropic的研究结果尚未经过独立验证。此外，恒温器、家用摄像头等设备的安全防护历来较为薄弱。钱德拉塞卡兰强调，就AI而言，当前最大的威胁并非AI系统本身失控，而是有人利用AI提升网络攻击能力。

环球时报记者 郑璇

原标题：《AI蠕虫未来或入侵你的电视、烤箱？美国人工智能巨头最新警告：小型AI模型数月内或实现自我复制，这可能成为AI脱离控制的关键节点》

阅读原文