• +1

谷歌AI默认设置背后的隐性代价与选择幻觉

2026-05-01 12:37
来源:澎湃新闻·澎湃号·湃客
听全文
字号

许多人或许正期盼着所谓的 AI 泡沫早日破裂。

然而在谷歌看来,生成式 AI 才是未来趋势,公司旗下产品必须随之进化。于是,Gemini 正渗透进谷歌生态的每一个角落。生成式 AI 需要大量数据滋养,而谷歌在 Gmail、云端硬盘等产品中积累了海量用户数据。这对个人隐私意味着什么?如果你不希望 Gemini 随时"窥探"你的信息,又该怎么办?答案令人不安。

Gemini 保留数据的方式取决于用户访问 AI 的途径,而选择退出数据收集,往往意味着要与所谓的"暗黑模式"正面交锋——这类界面设计元素往往与用户利益背道而驰。

谷歌不用你的数据训练 AI?要看情况

谷歌如何使用用户隐私数据,这一问题早在生成式 AI 崛起之前就已备受质疑。当谷歌在 Gmail 中加强广告投放时,该公司明确表示不会利用邮件内容来投放广告。相反,广告个性化(用户可以关闭)是一项全局功能,依据用户的网络行为和基本特征进行定向推送。大多数人对此已经习以为常,但进入 AI 领域后,情况变得更加模糊。

随着谷歌将更多 Gemini 功能整合进 Gmail 等核心产品,该公司再次不得不厘清何时会、何时不会调用用户数据。在近期发布的一篇博客文章(及配套短视频)中,谷歌特别说明:用户的邮件内容不会被直接导入 Gemini,而只是在"独立任务"中供 Gemini 调用。当用户在 Gmail 或云端硬盘等 Workspace 应用中与 Gemini 功能交互时,AI 会处理相关数据,但不会进行留存。

谷歌发言人表示:"保护用户隐私和对数据的控制权,是我们在 Google Workspace 中开发和部署 AI 的根本原则。您存入 Workspace 的内容——例如您的私有云端硬盘文件——属于您个人所有。在 Workspace 中使用 Gemini 时,我们不会将这些个人内容用于训练我们的基础生成式 AI 模型。"

由此看来,谷歌不会扫描用户的邮件或文档来训练 Gemini。但问题在于:Gemini 可以根据用户的提示,通过工具连接 Workspace 及其他谷歌产品,而谷歌 AI 模型确实会利用 Gemini 的输入与输出结果进行训练。这些输出结果可能包含什么?没错——用户的个人数据。

Gemini 的输出结果可能包含邮件摘要或文件片段,而这些内容随后可能成为 AI 训练的素材。谷歌表示,此举旨在让 Gemini 成为更出色的助手,用户与 AI 的交互方式也是训练的关键依据,同时会尽力对进入训练数据集的个人信息进行"过滤和精简"。然而,这一自动化处理流程究竟效果如何,外界无从知晓。

谷歌强调用户对上述功能拥有控制权:若想真正保护个人隐私,可以避免让 Gemini 接触文件,或选择退出将数据用于 AI 训练。遗憾的是,谷歌并没有让用户轻松告别 Gemini 的选项。

暗黑模式深处

要防止个人数据进入谷歌的 AI 训练集,有几种方式可供选择,但难度各不相同。最简单的方法是:与 Gemini 的交互保持简短且非个人化,不允许 Gemini 访问其他谷歌应用,涉及敏感内容时使用临时对话。这样一来,Gemini 就无法从输出结果中获取个人数据。不过,这也会大幅削弱 Gemini 的实用性——这对那些试图保护隐私的用户来说并不陌生。

若要彻底阻止 AI 利用个人数据进行训练,需要关闭一项名为"Gemini 应用活动记录"的功能。这个隐蔽的设置页面允许用户关闭 Gemini 历史记录,或选择关闭并删除现有数据。一旦不保存活动记录,谷歌便无法据此进行训练。但代价是:用户将失去所有对话历史。换句话说,用户只能在"保留对话记录以备查阅"和"防止聊天内容被用于 AI 训练"之间二选一。

企业通常不会承认刻意设计界面来操控用户,但某种界面设计是否构成暗黑模式,与设计意图无关。Fair Patterns 是一家正在构建可检测暗黑模式和掠夺性设计的 AI 模型的初创公司,其成员 Marie Potel 表示:"无论是否出于故意都无关紧要。真正重要的是:用户的自主权是否得到尊重,以及设计是否与用户的意愿相悖。"

如果退出 AI 训练的唯一途径是永久关闭对话历史记录,这一设计显然并不尊重用户的自主权,实质上是一种强制行为。即便是找到正确的退出菜单,也颇费周折。Gemini 应用设置中有一个隐藏的链接,但标签仅显示为"活动",此外也可以通过搜索谷歌支持文章找到直达链接。

值得注意的是,Gemini 的相关控制项并未出现在谷歌账户隐私设置中——而那才是用户最自然的查找位置。谷歌方面表示,"活动控制"中应该有对应链接,并附有 Android、地图、搜索、助手等子菜单。但在测试多个账户后,笔者始终未能找到指向 Gemini 隐私菜单的链接。

如此重要的隐私开关,即便会大幅降低使用体验,也不应该如此难以找到。遗憾的是,谷歌"误藏"隐私选项的情况并非首次。Marie Potel 指出,隐藏链接和失效链接作为一种暗黑模式,几乎和互联网本身一样历史悠久。

"谷歌一直有将隐私设置等功能层层掩埋的习惯,点击路径之深,显然是为了打消用户使用它们的念头。"Potel 说道。

AI 已成默认体验

积累训练数据并非谷歌推广 Gemini 的唯一目的——它同样希望将生成式 AI 融入用户的日常生活。使用 Gemini 功能的人越多,谷歌就越容易为这项技术的巨额投入(预计 2026 年仅一年投入就将达 1850 亿美元)找到正当理由。因此,谷歌核心产品中的 AI 功能愈发激进,且默认假定用户有意使用。

在 Gmail 中,Gemini 可以撰写和优化邮件、总结邮件链、整理收件箱,以及生成 AI 概览。AI 功能的深度取决于用户是否订阅了更高层级的套餐,但所有用户都能获得一定程度的 AI 能力,且功能还在持续扩展。然而,若你不希望 AI 在邮件中生成充满错误的摘要,关闭这一功能却是件令人沮丧的事——因为谷歌没有提供精细的控制选项,许多功能在 Gmail 设置中有简单的开关,Gemini 却偏偏没有。

要在 Gmail 中停用 Gemini 功能,需要通过谷歌所谓的"智能功能"将其全部关闭,且有两种方式可供选择——一种会连带删除大量 Gmail 功能,两种方式都缺乏清晰的说明。

Gmail 设置中有一个"智能功能"复选框,勾选后可关闭 Gemini,但同时也会停用许多早于 AI 浪潮就已存在的热门功能,包括收件箱分类(主要、社交、促销等标签页)、智能写作建议、包裹追踪等。关闭后,原本显示 20 封未读邮件的收件箱可能瞬间涌入 500 封,因为此前被归类的社交通知全部回流至主收件箱。关闭 Gemini 并失去上述功能后,Gmail 还会弹出提示,引导用户重新开启所有功能——包括 Gemini。

另一个"智能功能"开关比前者多一层点击,属于 Workspace 版本。这个开关在关闭 Gemini 的同时,还会停用个性化云端硬盘搜索、会员卡同步至 Wallet 以及从 Gmail 中提取日历活动等功能。理论上,此操作也应从云端硬盘中移除 Gemini,但实际上切换开关后往往看不出任何变化,因为 Gemini 的界面元素并不会消失——点击任意一处,便会弹出提示,要求重新开启智能功能(及 Gemini)。

综上所述,停用 Gemini 功能意味着用户要与措辞模糊的菜单周旋,还要承受其他无关功能的连带损失——这已然是"阻碍操作"与"强制行为"两种暗黑模式的叠加。"这显然是不可接受的,"Potel 表示,"关闭 Gemini 就会改变使用参数,显然是为了阻止用户停用它。"

默认设置本身就具有强大的引导力,即便不存在恶意设计。2010 年最早提出"暗黑模式"概念的 Harry Brignull 博士指出,企业长期以来都在利用默认设置推动用户跟随平台走向。他谈到科技行业时说,企业对这一效应及其带来的优势心知肚明。"我们可以称之为'预选暗黑模式',"他说,"如果你想让用户选择加入某功能,不必在注册环节明确询问并附上了解详情的链接,只需将其设为预选,再把相关设置藏在三四层点击之后——这样你可以宣称给了用户选择权,而实际上你清楚地知道,按照这种设计,几乎没有人会找到那个页面。"

谷歌拥有数十亿忠实用户,这赋予了它将新功能推送给用户的强大能力,因为人们鲜少主动更改默认设置。谷歌曾为在 iPhone 等设备上设置为默认选项付出高昂代价,这一问题也在谷歌近期的多起反垄断案中反复被提及,政府律师以此将谷歌描绘成具有反竞争行为的企业。

在免费和付费谷歌账户中,我们正亲眼目睹默认设置在 AI 时代所释放的力量:将数据用于 AI 训练是默认选项,邮件 AI 摘要是默认选项,AI 辅助文档创建也是默认选项。用户可以更改这些设置,但谷歌心知肚明——大多数人不会这么做,因为相关选项难以找到,且往往无法正常发挥作用。

这,便是我们将要面对的未来。

Q&A

Q1:谷歌 Gemini 会用我的 Gmail 邮件内容来训练 AI 模型吗?

A:谷歌表示不会直接扫描邮件内容来训练 Gemini 基础模型,但存在一个隐患:当 Gemini 处理用户数据并生成输出(如邮件摘要)时,这些输出内容可能会被用于 AI 训练。谷歌称会对其中的个人信息进行过滤,但具体效果无法对外证实。

Q2:如何彻底关闭 Gemini 对个人数据的使用?

A:需要关闭"Gemini 应用活动记录"功能,这样谷歌就无法根据对话记录进行训练。但代价是用户将失去所有 Gemini 对话历史。此外,在 Gmail 中停用 Gemini 功能,需要通过"智能功能"设置关闭,但这同时会连带停用收件箱分类、智能写作建议、包裹追踪等原本与 AI 无关的功能。

Q3:谷歌 Gemini 的隐私设置为什么这么难找?

A:Gemini 的隐私控制选项既未出现在谷歌账户的隐私设置中,也缺乏清晰的标注。例如,退出数据训练的入口仅标注为"活动",而非明确的隐私选项。专家指出,这种设计属于"暗黑模式",即通过隐藏或模糊关键选项,降低用户实际行使控制权的可能性。

    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

    +1
    收藏
    我要举报
            查看更多

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602000299号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2026 上海东方报业有限公司