译核手册 | 为什么事实核查这么重要？

本期译核手册由#疫查到底2022#事实核查团队成员@卢蔷、@周瑞、@王礼耀翻译整理，内容来自《核查手册：适用于虚假信息与媒体操控（Verification Handbook：For Disinformation And Media Manipulation）》的引言部分。这一部分主要围绕社交媒体阐释了事实核查的重要性与必要性，通过案例向读者说明数字环境中的一切都是可被操控的，并指出我们常见的具有欺骗性的内容往往并不是以假新闻的形式出现，而更多的呈现为信息失序（Information Disorder），作者进而总结了信息失序的七种常见形式，最后通过案例指出理解媒体操控周期是对调查来说是重要的第一步。

2019年12月，推特用户@NickCiarelli 发布了一条推文，推文中的视频向我们展示了Michael Bloomberg的竞选团队支持竞选的一段舞蹈。这支舞蹈获得了大量的转发及点赞。当然这些互动大多来自于嘲笑他们的用户。该视频最终在Twitter上吸引了超500万次的观看量。

Ciarelli在其Twitter简历中说道自己是Michael Bloomberg竞选团队的一名实习生，而在他随后的推文中也提供了一些证据，例如一封来自Michael Bloomberg竞选团队工作人员批准了该视频预算的电子邮件截图。

但是，只要打开谷歌对Ciarelli的名字进行搜索后我们就能发现，他是一名喜剧演员，并且过去曾创作过一些幽默视频。而那封来自工作人员的电子邮件又是怎么回事呢？原来它是由Ciarelli的喜剧搭档Brad Evans发送的。但在最初的几分钟和几个小时里，真的有一些人认为这个令人尴尬的视频是Michael Bloomberg的竞选团队制作并发布的。

一些了解Bloomberg及其竞选风格的记者会认为这段视频可能是真实的。但那些对Bloomberg一无所知并选择通过视频来源来判断视频真假的记者其实只需谷歌搜索分享视频的人的名字即可立即找到正确答案的。《纽约时报》的一位著名政治记者Maggie Haberman在推特上则说到，之前报道过Bloomberg参与市长竞选的记者不立即去反驳这个视频是有原因的。

因为拥有报道Bloomberg的经验可能会影响我们判断，但这其实不是最关键原因。更关键的原因是，在某些时刻，我们可能会被自认为已知的信息引入歧途。在某些情况下，我们的知识和所具有的经验甚至会造成一些负面影响。除此之外，我们还可能被数字（如转发量和阅读量）或操控符号的势力所愚弄。

正如Bloomberg视频所展示的，创建一些误导性信息是非常简单的，如推文或是可以证实推文内容的邮件截图。这些信息在某种程度上还会促使内容病毒式传播，并且当被转发和点赞的次数越多，就会有更多人相信这些内容可能是真实的。

但对这个案例研究说明，处于一个信息质量以及真实性可以被随意操控的信息社会中，包括记者在内的所有人是多么困惑及沮丧。

数字环境中一切都是可被操控的

信任是社会的基础，它除了能帮助我们更好地进行一些交易外，也是人与人之间相处的关键。但在我们所处的数字化环境中，以默认的信任去进行信息传播与发布是具有危险性的。

我们处于一个复杂且快速发展的信息生态中，因此我们需要一个不断发展的方法进行信息核查。而这个方法则建立在检验假设、跟踪和预测对手，以及借助最好的开源调查和传统报告技术的基础上。正如同我们所知道的，数据驱动型世界中存在一些漏洞，它要求记者要对各个方面进行质疑和审查，并运用技能来引导公众获取准确、可靠的信息。它还要求记者们去思考为何会在不知不觉中给那些利用他们的不良行为者和活动提供支持，并在证据并不充分的时候急于去指责国家行为体。

数字化环境中的一切都是可被操控的，要认识到有很多人和对象有动机去这样做。但数字环境的优点在于经常会有一系列的数据、互动、连接以及一些琐碎的电子信息线索可供追循。

对数字进行调查意味着不去考虑它的表面价值，这句话的意思是，那些看似可量化和数据驱动的东西如：点赞、分享、转发、流量、评论、广告点击等，都是经常且很容易被操控的。因此我们应该意识到，记者是媒体操控和信息传播的关键点，因为他们既被视为目标和攻击对象，也被视为传播错误和虚假信息的关键渠道。所以记者必须具备这种思维方式、技术和工具，以确保提供可信、准确的信息，而不是放大谎言、操控内容或进行引战。

这种思维方式的核心是一个关于数字调查的悖论：只有一开始对所有信息持怀疑态度，我们才能揭示出应该相信什么。这也使我们能产出所服务的社区成员愿意并能够信任的作品。

你以为的假新闻，往往是信息失序的一种

众所周知，谎言、谣言和宣传都不是新概念。人类向来具有欺骗的能力，历史上不乏用编造的内容去误导公众、破坏政府稳定或推动股市飙升的例子。然而现在的不同则是任何人都可以轻松发布一些引人注目的虚假内容和误导性内容，并且这些内容可在全球范围内快速传播。

Claire Wardle说到：我们都知道欺骗是不同的。我们不能将一种标准应用到所有事物上。例如在家庭争吵中为了保持和平而说的善意谎言与试图赢得更多选民的政客的误导性陈述是不同的。由国家赞助的宣传活动与关于登月的阴谋论也是不同。不幸的是在过去的几年里，任何可能属于这里所描述的类别中的东西都被贴上“假新闻”的标签。

然而实际上大多数在某种程度上具有欺骗性的内容却不会伪装成新闻。它只是Twitter、YouTube、Facebook 或 Instagram 上的模因（meme）、视频、图像或一些活动。它们通常大部分都不是假的，只是具有误导性。或者更常见的情况是它们是真实的，但是却是断章取义的。其中最具影响力的虚假信息则是一些将真实的东西贴上错误标签，或者将几年前的信息翻出来当成新的信息来分享。

在这种情况之下，最严重的问题可能就是假新闻这个词已经被一些政客和他们的支持者用来攻击世界各地的专业新闻媒体。因此Claire Wardle其合著者Hossein Derakhshan一起创造了“信息失序”这个术语，并在2017年撰写了一份题为“信息失序”的报告。这份报告为我们解释了一些与信息失序相关的关键定义，并提出信息失序的7种常见形式。

信息失序的7种常见形式:

1.讽刺/戏谑（Satire/Parody）: 可以理解为什么很多人反对在这七种类型中加入讽刺，因为Claire Wardle在分类时也很纠结否将讽刺包括在内。但不幸的是有很多虚假信息的发布者故意将内容标记为讽刺，以确保不会被进行“事实核查”，并通过这个行为为内容带来的任何伤害开脱。在信息生态中，由于背景和线索，以及心理捷径已被剥离，使得讽刺内容更容易引发读者的困惑。美国人可能知道The Onion是一个讽刺网站，但您知道根据维基百科的数据显示，全球有57个讽刺新闻网站？如果您不知道该网站具有讽刺意味，并且当它在Facebook上飞速传播时，那么您很容易被愚弄。虽然Facebook最近决定不对讽刺内容进行事实核查，但在这个领域工作的人则清楚了解讽刺标签是如何被用作一种蓄意的策略。在2019年8月，美国一家专门核查并揭穿谣言和传闻的网站Snopes就曾发布了一篇文章，说明他们为什么要对讽刺内容进行事实核查的。文章中说到讽刺的内容会避开事实核查人员的核查，并且随着时间的推移，原始上下文经常会丢失，而人们在不断分享的过程中却没有意识到内容是讽刺的，而选择去相信这是真的。

2.错误连接（False Connection）: 这是一种老式的点击诱饵，它通过耸人听闻的标题对内容进说明，当您点进链接后却发现标题与实际文章或内容严重脱节。虽然新闻媒体很容易将虚假信息的问题视为由不良动机者引起的，但重要的是要认识到新闻业的不良做法往往加大了信息失序的挑战。

3.误导性内容（Misleading Content）: 误导性内容一直是新闻和政界存在的问题。无论是从引用中选择部分片段，脱离整体数据集而创建一些支持特定声明的数据，或者以特殊的方法裁剪照片来框定事件，这些误导性的做法都不是什么新鲜事了。

4.错误语境（False Context）: 我们看到的大部分信息失序都属于这个类型。当真实图像作为新图像重新分享时几乎总是会出现这种情况。它经常发生在突发新闻事件期间一些旧图像被重新分享，还存在于一些旧新闻文章被重新分享为新内容而这些文章的标题则适合当代事件的情况。

5.伪装的内容（Imposter Content）: 这种信息多出现于将知名品牌的名称或logo与虚假内容一起使用的情况。这种策略是具有战略性的，因为它体现了启发式的重要性。而判断这种内容的最有效的方式之一是查看它是否由我们信任的组织或个人发布。因此，当把可信的新闻机构的logo添加到照片或视频中，就会自动增加人们不核查就相信的可能性。

6.被操控的内容（Manipulated Content）: 它指的是真实内容以某种方式被篡改。民主党议员Nancy Pelosi在2019年5月谈论Donald Trump的一段视频就是一个例子。该视频遭遇了网友的恶搞，使之表现得很像是醉了酒，实际上视频只是被放慢了。这样一来就好像她神志不清、说话磕巴、举止怪异。因为它基于真实的录像，使其成为一种强大的策略。如果人们知道她是在这样的背景下发表演讲的，那他们就会更加信任她演讲的内容。

7.造假的内容（Fabricated Content）: 该类型适用于内容100%虚构的情况。这可能是注册一个全新的虚假社交媒体账户并从中传播新内容。此类型包括换脸技术、人工智能技术被用于制造视频或音频文件，使得画面或音频中某人做一些他们从未做过的事情。

信息失序的类型：

理解信息失序的用途及动机则是理解信息失序这一现象的关键部分。因此，Claire Wardle和 Derakhshan 创建了这个维恩图，用来解释错误信息（misinformation）、虚假信息（disinformation）和我们创建的第三个术语也就是恶意信息（malinformation）之间的区别。

1.虚假信息（Misinformation）： 例如错误的图片说明、日期、统计数据或翻译，被当真的戏谑信息等无意识的错误。虚假信息是由希望对他人造成经济、名誉、政治还是身体伤害的人制造和分享的。 

2.错误信息（Disinformation）：伪造或是被有意操控的视听内容；故意制造出的谣言或阴谋论。错误信息也是虚假的，但分享该内容的人并没有意识到它是虚假的。在突发新闻事件中经常出现这种情况，当人们分享谣言或旧照片时没有意识到它们与事件无关。 

3.恶意信息（Malinformation）：为个体或群体利益而不是为公众利益而公布的私人信息，如色情报复；故意改变真实内容的时间、日期以及背景。恶意信息是真实的，但分享它的人正试图对他人造成伤害。Hillary Clinton在2016年美国总统大选期间泄露的电子邮件就是一个例子。进行色情报复也是如此。

创建虚假及误导性内容的动机

1.政治因素（无论是国际政治还是国内政治）。它可能是外国政府试图干预另一个国家的选举，也可能是国内的某场竞选活动采用“肮脏”的策略来抹黑他们的对手。

2.财政因素。一些人可以通过网站上投放的广告来赚钱。如果您有一篇耸人听闻并有着夸张标题的虚假文章，只要能让人点击您的网址，那么您就可以赚钱。不同政治派别的人都在谈论他们如何创建捏造的“新闻”网站来增加点击量，并由此获得收入。

3.社会和心理因素。有些人的动机仅仅是为了制造麻烦，为了看看他们能逃脱什么，看看他们是否能愚弄记者。或是在 Facebook 上发布活动，让人们走上街头抗议对女性的欺凌和骚扰。还有一些人为的错误信息分享，原因无非是他们希望呈现出自己的特定身份。例如有人会说：“我不在乎这是否属实，我只想在 Facebook 上向我的朋友强调，我多么讨厌「候选人姓名」。”

分享才会产生伤害：失序信息的喇叭式扩散

如果谣言、阴谋或虚假内容没有被传播，那它们不会造成任何伤害。因为分享才会产生伤害。因此，Claire Wardle创建了这张称之为扩音器的图像去描述虚假信息代理人如何在生态系统中协调信息并进行传播的一种方式。

这种内容经常发布在 4Chan 或 Discord（游戏玩家用来交流的应用程序）等空间中。 这些空间是匿名且允许人们发布无来源的信息。这些空间通常用于分享有关协调操控行为的具体细节，例如“我们将尝试让这个特定的主题标签成为趋势”或“使用这个模因来回应今天在Facebook上发生的事件”。

在进行协调后通常会转移到大型的Twitter私信群或WhatsApp的群中，这些群的网络中心节点将内容传播给更广泛的人群。然后它可能会进入Gab、Reddit或YouTube等社区网站。那里的内容通常会被分享到更主流的网站，如Facebook、Instagram或Twitter。

进入到这些主流网站后，它通常会被专业媒体选取。要么是因为他们没有意识到内容的出处，并在没有充分核查的情况下使用在报道中；要么是他们决定揭穿这些虚假内容。而无论哪种方式，虚假信息的发布者都将其视为成功。报道谣言或误导性声明的糟糕标题，或揭穿在报道中嵌入的虚假内容，都符合发布者最初的计划：不断扩散这些谣言。

除此之外，First Draft也曾讨论过临界点的概念。对于记者来说，过早报道虚假信息会为谣言提供额外的且可能具有破坏性的环境。而报告太晚意味着谣言已经站稳脚跟，也就没有什么可以做的了。因此找出这个临界点是具有挑战性的。而这个临界点也因定位、主题和平台而异。

我们生活在一个信息失序的时代，这使得记者、研究人员和信息专业人士都面临着新的挑战。报道还是不报道？标题怎么写？如何有效地揭穿视频和图像？知道何时去揭穿？如何衡量临界点？对于那些在信息环境中工作的人来说，这些都是当今存在的新挑战，而这也是非常复杂的。

调查的第一步：理解媒体操控的生命周期

在一个仅靠为数不多的强有力的全球科技平台就能颠覆传统社会知情方式的时代，媒体操控和虚假宣传活动正挑战着当前的政治与社会机制。各种各样的政治操控者、品牌、社会运动和“键盘侠”都在传播各种骗局和捏造的事实，他们开发并改进了新技术以影响公众对话，在地方、国家和全球范围内造成严重破坏。众所周知媒体操控和虚假信息是社会面临的重要问题。但是如何定义、检测、记录并揭穿虚假信息和媒体操控仍然具有很大难度。尤其是当这些行为跨越新闻、法律和技术等专业领域。因此，将媒体操控理解为一种模式化的活动是调查、揭露和减少它们重要的第一步。

哈佛肯尼迪学院肖伦斯坦中心的技术与社会变革研究团队 (TaSC) 使用案例研究方法绘制了媒体操控活动的生命周期（如下图）。这个案例研究通过从时间和空间维度跟踪媒体的人工制品（artifacts）来分析操控活动的顺序、规模和范围，将多种关系汇集在一起以处理一些混乱局面。作为这项工作的一部分，我们对媒体操控活动的生命周期进行了概述，这对于记者识别、跟踪和揭露媒体操控和虚假信息非常有用。

生命周期有五个行动点，并可以通过定性和定量方法去记录媒体操控者的策略。但请注意，大多数操控活动不是按此顺序被“发现”的。相反，很多都是在研究时通过寻找这些行动点中的任何一个，然后进行前后追溯得出整个生命周期。

接下来，我们将展示一个对特朗普与乌克兰有关活动进行投诉的举报人的社交媒体活动，让大家了解媒体操控活动是如何展开，以及记者和平台在生命周期早期所采取的道德行动如何有助于阻止操控行为的。

第1和第2阶段：计划和发布。在媒体生态的阴谋论中，举报人的身份已经众所周知，他的名字会在博客、Twitter、Facebook、YouTube和论坛上流传。更为重要的是，他的名称可以替代关键字和主题标签并充当可供搜索的数据点。有部分势力齐心协力去传播所谓的姓名和此人的照片，然而这个名字似乎被锁定在这个右翼和阴谋账户的网络媒体回音室中。即使阴谋论的影响者努力把所谓举报人的名字推向主流，但他们也无法摆脱自己的过滤泡沫。为什么会这样呢？

第3阶段：记者、活动人士等回应。相比之下，左翼和中间派媒体并没有刊登被指控的举报人的名字或扩散他被揭露的说法。尽管这对于科技和政治领域的记者来说是一个具有新闻价值的故事，但主流媒体没有去引发人们在社交媒体生态中对这个名字的关注。那些报道过该事件的人经常强调传播这个名字的行为是想要试图围绕举报人行为进行一些讨论的操控，并避免传播这个名字。这在很大程度上是由于新闻业的道德规范，记者有责任去保护包括举报人在内的消息来源的匿名性。

第4阶段：信息生态的变化。虽然主流记者省略了他的名字，但举报人所谓的名字“Eric Ciaramella”仍是一个独特的关键词。这意味着搜索它的人可能会得到一些深受阴谋论影响的内容。除了有道德的记者拒绝了可能吸引大量流量的报道外，每个平台公司都开始积极审核以举报人姓名为关键词的内容。YouTube 和 Facebook 删除了使用他的名字的内容，Twitter阻止他的名字上热门。但谷歌的搜索却可以查询他的名字，并反馈数以千计的阴谋论博客链接。

第5阶段：操控者的调整。这些试图阻止错误信息传播的尝试加剧了操控者的情绪并改变了他们的策略。操控者没有继续推送带有所谓举报人姓名的内容，而是开始传播另一个白人男性的图像，该图像与之前以举报人姓名进行传播时所配的图像相似。这些新图像与“深层政府”的阴谋论相结合，即举报人是民主党建制派成员的朋友，因此具有党派动机。实际上，这张图像是亿万富翁投资者、慈善家George Soros的儿子Alexander Soros的照片，他也经常成为阴谋的目标。

当这个策略未能引起媒体关注时，特朗普总统的推特账户@RealDonaldTrump 转发了一篇文章给他的 6800 万粉丝们，这篇推文给出了所谓的举报人的名字并强调“中央情报局（CIA）的举报人不是真正的举报人！”。这篇推文最初由@TrumpWarRoom账号发布，而这个账号则是特朗普竞选团队经过验证的官方账号。随之而来的是一连串包括很多主流媒体的报道，但所有这些报道都煞费苦心地删除或掩盖举报人的名字。许多人在社交媒体上呼吁举报人在参议院弹劾听证会上作证，他的名字与其他重要的潜在证人一起被提到，而这也扩大了其他人在寻找其他名字时偶然发现它的可能性。由此开始了媒体操控的新周期。

但人们对举报者姓名的查询量越来越多，博客上充斥着关于他告发特朗普活动的个人和职业动机的阴谋论。报道这些推文的记者在对证人恐吓的讨论之间摇摆不定，理由是这样的行为可以阻止未来的举报者，同时也能通过报道特朗普揭露举报人动机的八卦引发受众的好奇心。因此，一些媒体组织试图追究精英的责任是值得称赞的，但是如果平台无法解决其产品如何成为媒体操控和传播虚假信息的政治工具，这项任务就不可能完成。

媒体操控者试图通过在社交媒体上传播姓名和照片来“倒逼”，以促使大型机构媒体对这些信息进行放大。这些信息在经过大型机构媒体的放大后将会更容易在社交媒体平台上被发现以及登上热搜。但直到一位有新闻价值的人物（可理解为前文提到的特朗普）推动这个问题之后，我们才发现之前平台和记者为应对操控者将所谓的举报者推向大众视野所做的决定和行动基本上失败了。尽管许多媒体组织努力遵守道德准则，但社交媒体已成为议程设置和推动危险阴谋的强大武器。

不过总的来说，这个案例研究与之前阻止虚假信息传播的行为相比有着明显的改进，因为之前记者在试图揭穿虚假信息同时，放大了虚假信息，并且平台认为没有义务向用户提供准确的信息。这种整体转变虽然缺乏对精英阶层的问责制，但是有前景的。不过对于记者和研究人员来说，检测、记录和揭穿媒体操控活动的风险是很高的。在极度拥护自己所属党派的背景下，任何声称为虚假宣传活动命名的行为都可能带来成群的“键盘侠”和不必要的关注。应对虚假信息的内容和背景要求我们所有人都以严谨的方式记录活动的开始、变化和结束。并且要认识到你认为活动的每一个结束都可能成为一个新的开始。

本文整理自《核查手册：适用于虚假信息和媒体操控（Verification Handbook：For Disinformation And Media Manipulation）》引言部分的三篇文章，并对原文进行了删减、提炼。原文分别是Craig Silverman的《调查虚假信息和媒体操控（Investigating Disinformation and Media Manipulation）》、Claire Wardle的《信息失序时代（ The Age of Information Disorder）》以及Joan Donovan 的《媒体操控的生命周期（ The Lifecycle of Media Manipulation）》。

关于作者：

Craig Silverman，作为BuzzFeed的媒体编辑他带领团队对全球的媒体虚假信息、媒介操控等行为进行揭露和打击。他曾参与过《Verification Handbook》、《Verification Handbook for Investigative Reporting》的编辑，也是《Lies, Damn Lies, and Viral Content: How News Websites Spread (and Debunk) Online Rumors, Unverified Claims and Misinformation》这本书的作者之一。

Claire Wardle，引领着一家支持记者、学者和技术人员，致力于应对数字时代与信任和真相相关的挑战全球性的非营利组织First Draft的战略方向和研究。她曾是哈佛大学琼•肖伦斯坦媒体、政治与公共政策研究中心的研究员，哥伦比亚大学托尔数字新闻研究中心的研究主任，以及联合国难民署UNHR的社交媒体负责人。

Joan Donovan 博士是哈佛大学琼•肖伦斯坦媒体、政治与公共政策研究中心的研究主任。

阅读原文

翻译：卢蔷、周瑞、

整理：卢蔷、王礼耀