下载客户端

AI会有情绪问题吗？

2023-03-10 12:22

来源：澎湃新闻·澎湃号·湃客

听全文

原创 Thomas T Hillsis 酷炫脑

Via：《银河系漫游指南

以下为朗读小姐姐全文音频

作者 | Thomas T Hillsis

翻译 | 棉花熊

审校 | 酷炫脑

朗读 | 胡恩

美工 | Jenny

编辑 | YJ

在我们这样的头脑中，会出现很多差错。卡尔·荣格(Carl Jung)曾经说过，每个理智的人心里都藏着一个疯子。随着我们的算法变得越来越像我们自己，算法的疾病也越来越容易得到隐藏。

我的车会产生幻觉吗?在我的城市背后默默运行着的警察监控系统的算法会有被害妄想症吗?道格拉斯·亚当斯的《银河系漫游指南》中的机器人马文左侧所有的二极管都能够感到疼痛。我的烤面包机也会有这种感觉吗?

Via：giphy

这一切听起来都很可笑，直到我们意识到我们的算法越来越多地是按照我们自己的形象来制定的，这就不再只是一个无稽之谈了。随着我们对自己大脑的了解越来越多，我们已经能够利用这些知识来创造我们自己的算法翻版。这些算法控制着无人驾驶汽车的速度，为自动军用无人机识别目标，计算我们对商业和政治广告的敏感度，在约会服务中寻找我们的灵魂伴侣，并评估我们的保险和信用风险。算法正在成为我们生活中越来越具有情感能力的背景。

目前投入到工作中的最流行的算法是深度学习算法。这些算法通过构建信息的复杂表现，反映了人类大脑的结构。他们通过体验环境来学习理解环境，确定什么是重要的，并弄清楚什么预示着什么。就如同我们的大脑一样，这些算法也面临着越来越多的心理健康问题的风险。

1997年击败国际象棋世界冠军加里·卡斯帕罗夫(Garry Kasparov)的“深蓝”(Deep Blue)算法，是通过“强力”(brute - force)来做到这一点的。它可以在每秒内检查数百万个位置，最多可以计算移动20步之后的结果。任何人都可以理解它是如何工作的，即使他们自己做不到这一点。2016年在围棋比赛中击败李世石的深度学习算法AlphaGo在本质上是不同的。使用深度神经网络，它创造了自己对这个被认为是最复杂的棋盘游戏的理解。AlphaGo通过观察别人和自己下棋来学习。计算机科学家和围棋玩家都被AlphaGo的非常规棋法弄糊涂了。它的策略乍一看有些尴尬。只有在回想时，我们才明白AlphaGo当时在想什么。即便如此，它的思路也不是那么容易理解的。

为了让你更好地理解我所说的算法的思考，考虑一下这个例子。像深蓝这样的程序在编程中可能会出现bug。它们可能会因内存过载而崩溃。由于永无止境的循环，它们可能会进入瘫痪状态，或者只是在查找表上吐出错误的答案。但所有这些问题都可以通过访问源代码来解决，源代码就是编写算法的代码。

AlphaGo等算法则完全不同。通过查看源代码，他们的问题并不明显。它们以表示信息的方式嵌入其中。这种表现是一个不断变化的高维空间，就像在梦中散步一样。解决这些问题需要一个算法的心理治疗师。

Via：《流浪地球》

以无人驾驶汽车为例。一辆无人驾驶汽车在现实世界中第一次看到停车标志时，由于它在训练过程中已经看到了数百万个停车标志，所以当时它已经建立了对什么是停车标志的心理表征。在各种光线条件下，在好天气和坏天气，有没有弹孔，它面前的停止标志包含了令人眼花缭乱的各种信息。在大多数正常情况下，无人驾驶汽车能够识别停车标志。但并非所有情况都是正常的。最近的一些例子表明，停车标志上的一些黑色贴纸可以欺骗算法，使其认为停车标志是60英里/小时的标志。面对一些可怕的类似于高对比度的树荫的东西，算法会产生幻觉。

算法能产生多少种幻觉?为了找到答案，我们必须为算法提供所有可能的输入刺激组合。这意味着它有无限种可能出错的方式。优秀的程序员已经知道这一点，并通过创建所谓的对抗性示例来利用它。麻省理工学院(Massachusetts Institute of Technology)的人工智能研究小组LabSix已经证明，通过将图像呈现给谷歌的图像分类算法，并使用它发回的数据，他们可以识别出算法的弱点。然后，他们可以做一些类似于欺骗谷歌的图像识别软件的事情，让它相信x级图像只是一对在草地上玩耍的小狗。

算法也会犯错误，因为它们会注意到与结果相关的环境特征，即使它们之间没有因果关系。在算法的世界里，这被称为过拟合。而当这种情况发生在大脑中，我们称之为迷信。

迄今为止，我们所知道的由迷信导致的最大的算法失败被称为谷歌流感的寓言。谷歌流感使用人们在谷歌中输入的内容来预测流感爆发的位置和强度。流感的预测一开始还不错，但随着时间的推移，情况越来越糟，直到最终它预测的病例数是提交给美国疾病控制中心的两倍。谷歌流感的表现就像一个算法巫医，而它只是把注意力放在了错误的事情上。

算法的毛病可能是可以修复的。但在实践中，算法通常是一个黑匣子，其更新受到商业保护。凯西·奥尼尔(Cathy O ' neil)的《数学毁灭武器》(Weapons of Math Destruction, 2016)一书描述了一场名副其实的商业算法的怪诞秀，这些算法的阴险病态共同发挥作用，摧毁了人们的生活。

算法上划分富人和穷人的断层线尤其引人注目。穷人更有可能有不良信用，生活在高犯罪率地区，周围围绕着其他有类似问题的穷人。正因为如此，算法针对这些人发布误导广告，利用他们的绝望情绪，为他们提供次级贷款，并向他们的社区派遣更多的警察，增加了他们犯罪后被警察拦截的可能性。司法系统使用的算法会延长这些人的刑期，减少他们假释的机会，阻止他们找工作，提高他们的抵押贷款利率，要求更高的保险费用，等等。

Via：giphy

这种算法死亡螺旋隐藏在嵌套的黑匣子中:黑匣子算法将它们的处理隐藏在我们无法访问的高维思想中，进一步隐藏在专有所有权的黑匣子中。这促使纽约市等一些地方提议立法，对市政服务使用的算法的公平性进行监督。但是，如果我们不能检测到自己的偏见，为什么我们会期望在我们的算法中检测到它呢?

科学家们使用人类数据上训练算法，所以算法了解我们的偏见。普林斯顿大学Aylin Caliskan最近领导的一项研究发现，接受新闻训练的算法基本上在一夜之间就学会了种族和性别偏见。正如Caliskan所指出的:“许多人认为机器是没有偏见的。但机器是根据人类数据被训练出来。而人类是有偏见的。”

社交媒体是人类偏见和仇恨的温床。花时间在社交媒体网站上学习的算法很快就会变得偏执。这些算法对男护士和女工程师有偏见。他们会以经不起推敲的方式看待移民和少数民族权利等问题。只要有一点点机会，我们就应该期待算法会像人们对待彼此一样不公平地对待人与人。但算法在构造上过于自信，对自己的绝对正确没有自我反思的意识。除非他们受过这样的训练，否则他们没有理由质疑自己的无能(就像人类一样)。

对于我上面描述的算法，它们的心理健康问题来自于它们所受训练的数据的质量。但基于算法的构建方式，算法也可能存在心理健康问题。当他们学习新信息时，他们可以忘记旧的东西。想象一下，你知道了一位新同事的名字，却突然忘记了自己住在哪里。在极端情况下，算法可能会遭受所谓的灾难性遗忘，即整个算法不再能够学习或记忆任何东西。人类与年龄相关的认知衰退理论也是基于类似的想法:当记忆变得过多时，大脑和台式电脑都需要更多的时间来找到它们所知道的东西。

事情的发现是否变得病态，这往往是个见仁见智的问题。因此，人类的精神异常通常不会被发现。像我女儿这样的联觉者（能够将不同的感官联系起来的人），她会把书写的字母看作颜色，直到十几岁时才意识到自己有感知天赋。基于罗纳德·里根讲话模式的证据表明，他可能在担任美国总统期间患上了痴呆症。据《卫报》报道，在过去的5年里，美国每10天就有9天发生大规模枪击事件，而这些人通常都是所谓的“正常人”，他们在受迫害和抑郁的情绪下崩溃了。

在许多情况下，事物需要反复出现故障才能被发现问题。精神分裂症的诊断需要至少一个月的相当虚弱的症状。反社会人格障碍，即精神变态和社会变态的现代术语，在18岁之前不能被诊断出来，只有在15岁之前有行为障碍史的人中才能被诊断出来。

大多数心理健康障碍都没有生物标志物，就像AlphaGo的代码中没有漏洞一样。这个问题在我们的硬件中不可见。在我们的软件里。我们的思维出错的方式多种多样，这使得每一个心理健康问题都有其独特之处。我们把它们分成了大类，如精神分裂症和阿斯伯格综合症，但大多数的心理疾病都是谱系障碍，涵盖了我们在不同程度上共有的症状。2006年，心理学家马修·凯勒(Matthew Keller)和杰弗里·米勒(Geoffrey Miller)认为，这是大脑形成过程中的一个不可避免的特性。

Via：giphy

参考文献（点击滑动查看）

1.Intriguing properties of neural networks. Christian Szegedy, Wojciech Zaremba, Ilya Sutskever, Joan Bruna, Dumitru Erhan, Ian Goodfellow, Rob Fergus

2.Singh S, Okun A, Jackson A. Artificial intelligence: Learning to play Go from scratch. Nature. 2017 Oct 18;550(7676):336-337. doi: 10.1038/550336a. PMID: 29052631.

3.Semantics derived automatically from language corpora contain human-like biases. AYLIN CALISKAN, JOANNA J. BRYSON, AND ARVIND NARAYANAN. SCIENCE. 14 Apr 2017. Vol 356, Issue 6334. pp. 183-186. DOI: 10.1126/science.aal4230

4.Kirkpatrick J, Pascanu R, Rabinowitz N, Veness J, Desjardins G, Rusu AA, Milan K, Quan J, Ramalho T, Grabska-Barwinska A, Hassabis D, Clopath C, Kumaran D, Hadsell R. Overcoming catastrophic forgetting in neural networks. Proc Natl Acad Sci U S A. 2017 Mar 28;114(13):3521-3526. doi: 10.1073/pnas.1611835114. Epub 2017 Mar 14. PMID: 28292907; PMCID: PMC5380101.

5.Ramscar M, Hendrix P, Shaoul C, Milin P, Baayen H. The myth of cognitive decline: non-linear dynamics of lifelong learning. Top Cogn Sci. 2014 Jan;6(1):5-42. doi: 10.1111/tops.12078. Epub 2014 Jan 13. PMID: 24421073.

6.Tracking Discourse Complexity Preceding Alzheimer's Disease Diagnosis: A Case Study Comparing the Press Conferences of Presidents Ronald Reagan and George Herbert Walker Bush. Visar Berisha, Shuai Wang, Amy LaCross, Julie Liss