利益至上:脸书如何损害用户利益并制造危机

文/Branko Marcetic;Daniel Strauss;译/龚思量

2021-10-14 13:58 来源:澎湃新闻

字号
编者按:美国时间10月5日,脸书公司前产品经理弗朗西丝·豪根(Frances Haugen)在参议院商务委员会消费者保护小组的听证会作证,对脸书发出猛烈批评。豪根表示,脸书公司在明确知道平台传播信息的信息可能助长饮食失调、身材攻击和负面自我形象的言论,对年轻人心理和身体健康带来危险的情况下,选择允许此类信息在平台传播,以追求更大的点击量和用户停留时间。而10月4日发生的“脸书宕机事件”更助长了大量用户呼吁人们“卸载脸书”的声势。考虑到该平台对用户造成的负面影响,多位议员呼吁对脸书内容进行监管。然而,考虑到该平台的强大传播力,内容监管能否发挥作用还尚未可知。也有学者认为,基于脸书的“公共产品”性质,政府应该认真思考将其公有化,以对其进行更有效的规范。本文收录了来自《雅各宾》作者Branko Marcetic 与《新共和》作者Daniel Strauss的两篇文章。

Facebook损害了其用户,因为这正是其利润所在
文/Branko Marcetic

思考“脸书”以及如何处理该平台意味着要处理两组相互冲突的事实。一个是脸书是一个非常有用的产生交流、发布新闻、进行经济活动的平台,全世界有数十亿人依赖着它。另一个是,脸书是一个高度成瘾的、追求利润的实体,它通过利用和操纵人类心理来赚钱,给社会其他部分带来可怕的后果。
由于一名前员工的爆炸性爆料,这家公司又成为了新闻焦点。这名员工对公司的前景感到失望,并向公众泄露了大量内部文件。《华尔街日报》(Wall Street Journal)正在进行的、以泄密事件为基础的系列报道、《60分钟》(60 Minutes)的采访以及在国会的露面,揭露了举报人弗朗西斯·豪根案件的关键——脸书很清楚其平台的各种危害和危险,但一直没有纠正它们,因为这将与公司的持续增长和利润相冲突。
一份报告显示,该公司的研究人员已经确定,脸书旗下的Instagram对十几岁的女孩产生了心理上的破坏性影响,尽管该公司公开否认了这一点,并继续推进为13岁以下的女孩推出特定版本的Instagram。
另一位研究人员发现,该公司在2018年对其算法进行了调整,以促进“有意义的社会互动”(MSI),这反而激励了基于愤怒、社会分裂、暴力和胡扯(bullshit)的帖子和内容。另一些则表明,脸书有意将目标锁定在儿童身上,并设法尽早将他们吸引到该产品上,但是它在撤下明显的贩毒集团和人口贩子所发的帖子时却拖拖拉拉。2021年10月5日,美国华盛顿,美国社交媒体巨头脸书(Facebook)公司前产品经理弗朗西丝·豪根(Frances Haugen)出席参议院商务委员会消费者保护小组的听证会。

2021年10月5日,美国华盛顿,美国社交媒体巨头脸书(Facebook)公司前产品经理弗朗西丝·豪根(Frances Haugen)出席参议院商务委员会消费者保护小组的听证会。

为了解决脸书的问题,人们提出了许多解决方案,比如利用反垄断法将其瓦解,修改第230条,允许科技公司因其平台上发布的内容而被起诉,或者像豪根向国会建议的那样,要求该公司提高透明度并建立一个监管委员会。但是,这些文件中披露的大部分内容为以下论点增加了砝码:该公司和其他类似的、事实上的垄断企业应被视为公用事业,甚至被纳入公有制。
这些文件清楚地表明,正如豪根告诉国会的那样,当脸书遇到利润和人们的安全之间的冲突时,它“一直在解决这些冲突,以支持他们自己的利润”。脸书清楚地知道其平台对孩子的不好影响,但为了继续发展,它需要吸引这些孩子,让他们在成年后成为其用户群的一部分,并让这些孩子把他们的父母带入使用其产品。在2020年的一份关于青少年的内部文件中,脸书称他们是“一群有价值但尚未开发的受众”。此前,该公司正在研究青春期前的孩子,设计新产品来吸引他们,并讨论“玩耍日(playdate)作为一种增长杠杆”的想法。
脸书明白,提升有意义的社会互动可能会助长分裂、谩骂,以及用户中各种不健康的行为,但不这样做意味着参与度降低,利润也可能会因此减少。当一名员工建议通过取消“算法对大型用户链转发的内容给予的优先权”来处理错误信息和愤怒时,她写道,“如果此举与‘有意义的社会互动’的影响之间会产生实质性的权衡”,马克·扎克伯格就不会采纳该建议。当研究人员建议该公司调整算法,避免让用户进入更深、更极端的兔子洞,比如对健康食谱的兴趣很快会导致用户浏览厌食症的内容时,高层却因为担心限制用户参与而忽略了它。
豪根本周对国会表示:“我所说的许多变化不会让脸书成为一家无利可图的公司。它只是不会成为一家像今天这样利润惊人的公司。”
就像一些公司会通过生产“几年后就会崩溃并停止工作的设备”来推动销售一样,脸书对增长和更高利润的渴望导致其不愿采取负责任的行动。把这些动机从等式中去掉似乎是不费吹灰之力的,特别是这些平台像铁路和电信一样处于“自然垄断”的地位。
如果一家公司是公有的,或者仅仅是一个受到严格监管的公用事业公司,它就不需要在资本主义增长逻辑和过度追逐利润的逻辑下工作,正是这些逻辑导致了问题的出现,它也不需要在用户不再需要或不再关心公司的情况下继续生存下去。对于脸书的私人所有者马克·扎克伯格(Mark Zuckerberg)来说,该公司在年轻人中已经过时,主要由30岁以上的人使用,这可能是一个问题。但对于一个由于用户对其依赖程度很高,导致政府不情愿地将其国有化的公用事业公司来说,这并不是什么大问题。事实上,这听起来像是一个现成的解决方案,因为我们大多数人都同意,这个平台“充其量”是令人上瘾和不健康的。
如果年轻一代不在乎脸书能否生存下去,我们为什么要强迫他们改变想法呢?如果人们在被劝说取消所有关注,并清空他们的新闻源时感到更加开心,我们又为什么要像脸书最近对“开发允许用户这么做的工具的开发者”所做的那样,对他们进行报复?
当然,还有许多实际问题需要解决。首先,脸书可能是一家美国公司,但其类似于公用事业的服务是向全球提供的,因此,关于一个公有的或受监管的脸书实际上是什么样子,存在着真正的问题,如由“哪些公众监督”或“由谁监管”。
同样,任何这样的计划都必须有严格的监督和民主控制,以免该平台进行的剥削和操纵从私营部门转移到政府。不过,要记住的是,通过监控项目和网络行动,华盛顿和其他国家的政府已经在利用脸书等平台收集和存储全球用户的数据,并操纵他们的信息。也许到最后,正确的前进道路将是所有这些解决方案进行某种组合,包括打破这些垄断和将它们的一部分置于公共所有权之下。
如果确切的解决方案尚不明确,但可以肯定的是,目前的状况是无法维持的。除了豪根泄密事件所强调的问题外,我们早就知道社交媒体平台和其他科技创新对我们的心理健康有害,它们被故意设计成令人上瘾,以至于负责它们的软件工程师和科技大亨都避免使用自己的作品。也许有一种方法可以让社交媒体和它在我们生活中最有用的功能保留下来,同时去掉它最有害的特性;也可能这这个发明将被证明是一个错误,从根本上不符合人类大脑的工作方式。但为了要找出答案,我们至少进行不同的尝试。
遗憾的是,这并不是《华尔街日报》系列报道、大部分国会和其他新闻媒体对此次泄密的反应所指向的解决方案。可以预见的是,这一消息引发了要求这些科技公司加强“内容审核”(content moderation)的呼声,即加强审查,以防止各种错误信息的传播,或阻止平台像豪根所指责的“助长危险的社会运动”。
讽刺的是,尽管这些文件本身表明将审查制度作为解决这些问题的方法是愚蠢的。但该杂志系列的第一个故事就是关于脸书如何创建了一个由数以万计的高知名度账户组成的“白名单”,使他们在发布会让其他用户受到审查、账户暂停使用或永久禁言的内容时不受审查。与此同时,该公司的审查人员一直在针对较低级别的用户,删除完全无害的帖子或那些被他们曲解的帖子,包括今年早些时候,在以色列镇压巴勒斯坦人期间的阿拉伯语新闻机构和活动家。这些平台的行为一再表明,我们不能相信它们可以准确、负责地调节内容。
这种反应是奥利维尔·朱特尔(Olivier Jutel)口中的一种长期趋势的一部分:认为科技公司及其产品不仅对我们有害,并且要为我们能想到的、过去几年发生的每一件坏事负责。在决定如何处理这个问题(并选择审查作为前进的道路)时,我们可能忽略了使得当前世界更加动荡的、更广泛的政治、经济和社会因素,而将其归咎于社交媒体的近乎神秘的力量。脸书真的要为1月6日国会大厦骚乱负起唯一责任吗?或者说,它只是众多有用的工具之一,使参与者得以组织自己的活动,而这些参与者则是由经济失调和大部分精英和主流媒体兜售的,关于选举的谎言所共同驱动的?
豪根告诉《华尔街日报》,她站出来的动机,是看到她的一个自由派朋友在花了“越来越多的时间阅读在线论坛”之后,被卷入了混合了“神秘主义和白人民族主义” 的邪恶妄想,这段友谊最终不得不画上句号。然而,人们经常遭遇或消费宣传,更不用说简单地使用社交媒体和互联网,但却没有走上类似的道路。不幸的是,我们从来没有发现豪根的朋友卷入此类谎言泥潭的背后因素,也没有发现是什么导致他后来放弃了这些信仰。虚假信息一直在世界范围内泛滥成灾;找到这些问题的答案将帮助我们理解为什么它在这个时代显得尤为强大。
避免大规模审查并不意味着我们无能为力。脸书的算法、设计、中心使命和资源配置都可以做出明显的调整,让它更接近其所宣称的、真正的公共服务,而非虚无主义的、只关注盈利的庞然大物。这些改变不会威胁到我们言论自由的权利,也不会妨碍我们与所爱的人保持联系、组织活动或使用此类平台其他的有用功能。遏制脸书的斗争向前迈进了一大步
文/Daniel Strauss

当前脸书员工,举报人弗朗西斯·豪根(Frances Haugen)在负责处理消费者安全和消费者保护问题的参议院小组委员会面前作证时,这将成为脸书与华盛顿议员之间正在进行的斗争中的一个戏剧性时刻。对于议员而言,这场斗争旨在更好地监管这家社交媒体巨头。
与此同时,脸书发现自己正处于所有科技巨头都害怕的严格审查之下。上周末,豪根在《60分钟》的采访中高调地站了出来,她作为脸书前员工向《华尔街日报》泄露了内部文件,这些文件显示该公司只关注利润,而无视对用户造成的伤害。
这些文件已经演变成《华尔街日报》对社交媒体平台阴暗面的持续报道。豪根在10月5日出庭作证,称该公司亟需严肃的监管,公众应该在了解平台政策和优先事项方面获得更大的透明度。
根据路透社(Reuters)报道的一份豪根准备好的证词副本,她表示:“这场危机的严重性要求我们打破以往的监管框架。对过时的隐私保护进行微调或仅仅修改230条款是不够的。问题的核心在于,没有人比脸书更能理解脸书的破坏性选择,因为只有脸书能看到其背后的真相。有效监管的一个关键起点是透明度:给予监管者访问‘非脸书指导的研究数据’的全部权限。在此基础上,我们可以建立合理的规则和标准,以解决消费者伤害、非法内容、数据保护、反竞争行为、算法系统等问题。”
在此之前,她曾多次在大型电视节目上露面,并在全国媒体上进行了广泛报道。在这些报道中,豪根详细介绍了脸书对仇恨言论、错误信息和暴力的公然漠视。
豪根表示:“现在,脸书选择了数十亿人看到的信息,塑造他们对现实的看法。即使那些不使用脸书的人也会受到使用脸书者激进行为的影响。一个控制着我们最深层的思想、情感和行为的公司需要真正的监督。”
对脸书进行监管的呼吁并不新鲜,事实上,多个国会小组已经对该公司进行了数月的审查。但本周,这种关注将进入一个新的、更加公开的阶段。立法者们正计划利用这次证词和豪根之前的露面来进一步说明“在一段时间以来的传统观点”—— 即脸书公司太大,破坏性太强,基于这一点上,不能允许它保持现状。
“我想说,首先,这实际上不是什么新鲜事,”众议院司法委员会反垄断小组委员会主席戴维·西西林(David Cicilline)在接受采访时表示,“我认为这证实了我们一段时间以来所知道的,那就是社交媒体平台,特别是 Facebook,有一个商业模式,首先,允许大量提取人类生成的数据……最大的问题是我们有一个经济模型,使这些平台基本上可以完全合法地从人们的活动中收集和提取所有个人数据。”
但即使是西西林,也对监管支持者将继续面临的阻力持现实态度。他说,他和他的盟友——尤其是参议员理查德·布卢门撒尔(Richard Blumenthal)和国会女议员简·沙考斯基(Jan schakowsky)正在“与我们这个国家最大的经济力量作斗争”。
“这可能是我进入国会以来遇到的最不寻常的阻力。看,他们有无限的资源来阻止任何改革,并维持他们现有的生态系统,”这位罗德岛民主党人继续说道,“他们有无数的理由来维持这个创造了‘世界历史上从未有过的利润’的生态系统。他们聘请了大批说客,在竞选和游说中花费了数百万美元,试图维持现状,因为这非常有利可图。”
主要科技公司:脸书、亚马逊、苹果和谷歌,在美国的经济和日常生活中的扎根程度是无以伦比的。西西林小组委员会在去年年底发布的一份报告说,这些公司“作为通信、信息、商品和服务交流的基本基础设施,在我们的经济和社会中发挥着重要作用”。报告称,这进一步凸显了加强监管的必要性。该报告还称:“脸书的垄断力量根深蒂固,不太可能被新进入者或现有公司的竞争压力所侵蚀。”
脸书还不得不拒绝在《华尔街日报》的系列报道中披露其在1月6日美国国会大厦暴徒袭击事件中所扮演的角色。
支持对Facebook进行监管或建立更多监管的人,还会采取下一步行动。在回答有关豪根的问题时,白宫新闻秘书珍·帕莎基(Jen Psaki)表示:“(我们)承诺与国会合作,加强举报人的法律,确保联邦雇员了解如何举报不当行为,并得到充分保护,免遭报复。”
拜登提名的负责反垄断部门的助理司法部长乔纳森·坎特(Jonathan Kanter)将举行提名听证会,反垄断专家预计,坎特将成为司法部该部门的卓越领导者,并会采取巧妙的方法来处理脸书问题。西西林点名批评了联邦贸易委员会(Federal Trade Commission)主席莉娜·汗(Lina Khan)和拜登的国家经济委员会(National Economic Council)成员蒂姆·吴(Tim Wu),并将其称作“大型科技领域改革的最佳倡导者”。而司法部发言人没有回应关于进一步监管脸书可能进行调查。
这名国会议员和其他一些人认为,他们需要对脸书进行全面施压,即便如此,这些努力也可能不会成功。不过,西西林说,最终,“大部分工作必须通过立法来完成,既要现代化我们的反托拉斯法,也要禁止某些行为。因此,我们都必须继续努力,因为脸书对我们的经济是一个非常严重的威胁,也对我们的民主产生了严重威胁”。
西西林表示,他们需要做的是“重新建立数字市场的竞争”,并强调这是“至关重要的”。与此同时,他也指出:“我们也需要审视这些平台策划内容的方式,并找出办法,通过监管和法规,防止他们使用‘激励用户分享这些危险信息的商业模式’。最极端的做法是让他们为这种行为负责。”
有些讽刺的是,在10月4日,脸书以及Instagram和WhatsApp都出现了故障,它们在该日的大部分时间里都处于瘫痪状态。Instagram上出现了“删除Facebook”的趋势,这表明公众对脸书的情绪已经从“被动”转为“安静的不屑”,再转为“公开愤怒”要求改革。然而,现在的问题是,这些改革呼吁将会遇到什么样的阻力。希望建立更好的保障措施以防止脸书对用户或制度本身造成伤害的立法者们,都心知肚明,这绝非易事。
(本文来自澎湃新闻,更多原创资讯请下载“澎湃新闻”APP)
责任编辑:韩少华
澎湃新闻报料:4009-20-4009   澎湃新闻,未经授权不得转载
关键词 >> 脸书丑闻,脸书审查,言论自由,社交媒体平台,内容监管

相关推荐

评论()

热新闻

澎湃新闻APP下载

客户端下载
关于澎湃 在澎湃工作 联系我们 广告及合作 版权声明 隐私政策 友情链接 澎湃新闻举报受理和处置办法 严正声明