极端组织推数字人主播办AI研讨会，警惕AI技术成恐怖分子宣传新利器

3月22日，恐怖分子袭击了俄罗斯莫斯科的“克罗库斯城”音乐厅（Crocus City Hall），共造成140多人死亡。此后，一段有关这次袭击的宣传视频——据称来自极端组织“伊斯兰国（IS）”——开始在网上流传。

据《华盛顿邮报》5月17日报道，恐怖分子的支持者精通技术，他们利用新的人工智能工具来传播极端主义。追踪恐怖分子和极端分子网络活动的公司SITE情报集团（SITE  Intelligence Group）表示，极端组织“伊斯兰国”（IS）支持者的AI生成媒体项目“新闻收获（News Harvest）”已发布了6条视频，获得“病毒般”的扩散效果，并在世界各地的支持者中招募新成员。

“伊斯兰国”组织擅长媒体运作，可以制作好莱坞级别的招募视频来吸引年轻人。现在，人工智能视频生成工具可以使该组织以更低的成本创建此类内容。包括“基地”组织在内的几个伊斯兰激进组织已表示有兴趣使用人工智能聊天机器人、图像生成工具和语音克隆工具来快速创建虚假信息。

人工智能意味着游戏规则的改变

3月以来，“新闻收获”几乎每周都会发布有关极端组织“伊斯兰国”在全球各地行动的视频。SITE情报集团联合创始人丽塔·卡茨（Rita Katz）表示，该节目的制作类似于电视台的新闻广播，标志着AI已成为极端组织“伊斯兰国”分支一种强大的宣传工具。

“对于IS来说，人工智能意味着游戏规则的改变。”卡茨说，“这将是他们传播血腥袭击的快速方式，几乎能到达世界的每个角落。”

在节目中，人工智能生成的新闻主播穿着迷彩服出现在屏幕上，新闻滚动条和视频片段显示IS成员正执行恐怖任务，主播们宣读IS官方媒体的快讯。

3月15日，名为Al Kurdi 500的IS支持者在私人消息服务器上提出关于“采用人工智能宣传的优势”的案例。“如果兄弟们制作有关每日新闻的视频，作为阅读文本新闻和查看图像的替代方案，那就太好了，就像半岛电视台等新闻频道如何谈论事件一样。”这名支持者写道，“技术已经取得了很多发展，现在会更容易做到，特别是在使用人工智能的情况下……媒体与实体战争一样重要，甚至更重要。因为它对人们的影响非常大。”

该消息发出7天后，IS声称对莫斯科的音乐厅发动了袭击。随后，名为Hisad的该组织支持者迅速动员起来，制作了一段人工智能生成的视频并进行宣传。3月26日，Hisad在私人信息平台上发布了“新闻收获”的第一集。

自莫斯科袭击事件以来，“新闻收获”已经发布了6段节目，概述了IS分支机构最近在全球各地的行动，包括尼日尔、喀麦隆、伊拉克、叙利亚和尼日利亚。目前还不清楚他们正在使用什么人工智能技术，尽管帖子中的一些支持者鼓励使用“好的”人工智能软件。

招聘AI人才，发布聊天机器人使用指南

中东媒体研究所 （MEMRI） 执行主任史蒂文·斯大林斯基（Steven Stalinsky）说，这些视频并非由IS官方部门制作，因此尚不清楚它们是否符合该组织的总体战略。但他表示，因为该组织一直在快速采用尖端技术，所以有可能创建人工智能媒体部门。

此外，亲IS的媒体已经在寻找掌握人工智能技能的人才，他们在招聘启事中要求：熟悉海报制作、文章撰写和视频编辑，并精通Adobe Photoshop、Premiere和AI。

“基地”组织等其他激进组织也在讨论人工智能的使用。2月9日，一个相关组织宣布将开始举办在线人工智能研讨会。次日，它与另一个“基地”附属组织合作发布了一份50页的指南，标题为《使用人工智能聊天机器人的不可思议的方式》，其中提供了ChatGPT的基本概述。

反恐新挑战

反恐专家表示，虽然IS已经被削弱，但人工智能可以让其支持者在恐怖袭击发生后的几天内迅速进行宣传，这些宣传在网上停留的时间很长，而此时招募新成员的几率也很高。

华盛顿近东政策研究所高级研究员亚伦·泽林（Aaron Zelin）表示，人工智能可以为任何地方的人们提供接受宣传、创建人工智能生成的媒体并参与极端主义组织的能力，从而有助于本土极端主义的发展。“如果你往墙上扔那么多意大利面，最终其中一块会粘在墙上。”他说，“它可以为此类内容的病毒式传播提供更多途径。”

斯大林斯基表示，运营社交平台的科技公司对IS支持者所传播的内容监管不力，这对监管机构和反恐工作来说将是一个挑战。对于这一点，聊天应用Rocket.Chat的公关代表莱斯·马查多罗查（Laís Machado Rocha）称，该平台是开源的，不在其服务器上托管消息，因此无法删除极端分子的消息。而Telegram和X没有回复置评请求。