徐英瑾｜人与AI，是敌是友？

人工智能（ Artificial Intelligence，以下简称“AI”）是一个具有高度技术集成性的学术领域，但其商业运用的范围非常广泛。由于二者之间的信息不对称，AI在专业领域内的“内部形象”与其在公众（包括政界与商界精英人士）心目中的“外部形象”之间往往有巨大的落差。严格地说，“Artificial Intelligence”这个词是在1956年才成为专有名词的，而最早提出这个英文词组的是AI领域的元老级人物麦卡锡，而这个词组本身，则是在同年举办的美国达特茅斯会议上被学术界普遍认可的。与之相比，与AI相关的形象竟然早在1956年之前就已经进入了公众的视野。 譬如 ， 世界上的第一部科幻小说《弗兰肯斯坦》（1818年出版）就设想了用电路将不同的尸体残肢拼凑成人工智慧体的可能性；在1920年上演的科幻舞台剧《罗梭的万能工人》中，“人造人”的理念再一次被赋予形象的外观；在1927年上映的德国名片《大都会》中，一个以女主人公玛丽亚的外形出现的机器人，竟然扮演起了工人运动领袖的角色；科幻作家阿西莫夫的名篇《我，机器人》也早在1950年就已经面市（其中有些篇章甚至是1940年代写就的），早于给“AI”正名的达特茅斯会议。

为何一种技术样态面向公众的诠释方案反而比该技术样态本身更早出现呢？这其实是由AI自身的特殊性所导致的。AI的技术内核虽然艰深，但“模拟人类智慧”这一理念本身并不晦涩。因此，该理念就容易被一些敏锐的思想先驱者转化为艺术形象，由此形成相对于技术样态本身的“抢跑”态势。此外，专业的AI科学家之所以对AI产生兴趣，在相当程度上也是因为受到了大众文化对于AI想象的影响。然而，需要注意的是，此类想象所带来的惯性在AI真正诞生之后继续引导了大众对于AI的认识，并在相当程度上偏离了AI业界发展的实际情况。这就导致直到今天，不少人对AI的认识仍是建立在关于AI的科幻艺术作品上，而此类科幻艺术作品对AI技术实质有意或无意的误读，又进一步扩大了专业的AI研究圈与外部公众之间的信息不对称。

笔者将主流科幻影视作品对AI技术实质的误解分为以下三类。

误解一：AI的典型出场样态是人形机器人。在电影《人工智能》中，主人公小戴维就是一个标准的人形机器人，其外貌与一般的美国小朋友没有任何两样。在电视剧《西部世界》中，整村整镇的机器人都被做成了美国西部牛仔的样子。日本电影《我的机器人女友》亦是按照类似的思路将机器人设计成了一个女人的模样。

电影《人工智能》（ A.I. Artificial Intelligence，2001）中的人形机器人戴维

从影视创作的角度看，将AI设计成人形机器人有三点好处：（1）演员可以直接扮成机器人，省去制作真机器人的道具成本；（2）人形机器人的表情与动作更容易引发观众的共情；（3）人形机器人更容易与真人产生戏剧冲突，由此推进剧情发展。

然而，从AI的技术实质上看，这种表现方式多少有些误导性。相关误解是建立在如下三个错误的预设之上的。

错误的预设1：AI与机器人是一回事。

事实上，AI与机器人属于两个不同的学科领域，遑论人形机器人研究。严格来说，AI的研究任务是编制特定的计算机程序，使其能够模拟人类智能的某些功能，譬如玩某些棋类游戏。显然，赋予这样的智能程序以一般的商用计算机物理外观就可以了，其并不需要具有人形机器人的外观。与之相比，机器人的建造是“机器人学”的任务，而机器人学所涉及的主要学科是机械工程学、电机工程学、机械电子学、电子学、控制工程学、计算机工程学、软件工程学、资讯工程学、数学及生物工程学，AI在它们之中并不扮演核心角色。当然，AI与机器人技术的确常常会碰撞出更有趣的工程学应用案例，但是这并不意味着二者在概念上是一回事。

错误的预设2：机器人就应当采用人形的外观设置。

其实，即使是机器人，也往往不采用人形的外观设置。以世界上第一台全自动机器人“Unimate”为例，该机器人在美国新泽西州尤因镇的内陆费舍尔向导工厂的通用汽车装配线上承担了从装配线运输压铸件并将这些零件焊接在汽车车身上的工作。在经过特定调试后，这个机器人还能将高尔夫球打到杯子里，甚至是倒啤酒。这台机器人没有类似人类的眼睛、嘴与皮肤，它只有机械臂以及臂端的一个简易抓举设施与人类肢体类似。由此不难想见，机器人可以被做成各式各样的形状，比如鱼形与鸟形。

世界第一台全自动机器人Unimate

错误的预设3：人形机器人是智能或者灵魂的天然载体。

人类其实具有“万物有灵论”的心理投射倾向，即将很多具有动物或者人形的非生命体视为有灵魂者。孩童喜欢对着玩偶自言自语便是明证，而这种倾向在成人的心理架构中也得到了保留。在心理学文献里，这种心理倾向被称为“人格化”（personification）或者“人类化”（anthropomorphization）。已经有文献指出，这一心理倾向可以帮助那些缺乏真实社会关系的人通过对物体的“人格化”获得代偿性的虚拟社会交往方式，由此克服孤独。广告商会利用这一心理机制将产品的外观设计得具有人性，以获取消费者的好感。需要注意的是，激发人格化的心理倾向的门槛是很低的：只要对象看上去有点儿像人就可以了。这就意味着，就科幻影视的观影体验而言，只要影视主创方将片中的机器人设计得像人，这样的视觉输入就会顺利激发观众的人格化倾向，由此自主赋予这样的机器人以智慧与灵魂。但这种讨巧的做法在AI研究中是完全行不通的。赋予AI任何一种实际的操作功能，都需要编程者在后台付出巨大的努力，而以AI为主题的科幻影视作品往往会忽略这种努力，这自然会在相当程度上使得公众对AI的技术实质产生误解。

误解二：AI可能具有人类所不具备的全局性知识，即所谓的“上帝之眼”，并由此导致对人类个体的压迫。在系列科幻电影《生化危机》中，保护伞公司的幕后操控者竟然是一个叫“红皇后”的超级AI：她（之所以称“她”，是因为该AI体在片中被赋予了小女孩的外观）能够预知以主人公爱丽丝为首的人类团体的行动，而且，她为了保护伞公司的利益，会毫不犹豫地杀死大批无辜的群众。无独有偶，在电影《机械公敌》中，也有一个叫“薇琪”的超级AI。她（该超级程序同样具有女性外观）经过反复计算后，得出了一个可怕的结论——只有消灭一部分人类，才能使全体人类得到更好的发展。她甚至还将这个骇人听闻的计划称为“人类保护计划”。

电影《生化危机》（ Resident Evil，2002）中的超级AI“红皇后”

从戏剧冲突的角度看，AI在这些影视作品中具有的全局性冷酷视角，与人类个体所具有的局部性（但同时更具温情）视角形成了鲜明的对照，而这种对照本身就具有很强的戏剧张力。同时，影视主创人员对AI的设想也满足了一部分观众对于AI的想象：AI虽然缺乏情感，但是在计算能力方面超越人类的。所以，AI能够比人类更清楚何为“大局”，尽管这并不是人类个体所愿意接受的“大局”。

不过，上述印象是建立在对AI的很深的误解之上的，因为超强的计算能力并不意味着对全局知识的把控。实际上，任何一个智能体如果想要把握这样的全局知识，都需要囊括所有问题领域的超级知识图谱，而该知识图谱往往是人类智慧的结晶。举个例子，如果你要计算一枚导弹在各种复杂的空气环境中的轨道变化情况，你先要设立一个合理的空气动力学框架（该框架无疑是来自学术共同体的长期知识积累），并在该框架中设置大量的参数，至于如何计算这些参数，则是下一步才要考虑的问题。想要在开放式的问题解决场域中建立一张合适的知识图谱，即使对人类建模者来说也是充满挑战的。譬如，在解决所谓的“电车难题”时，任何一种比较稳妥的方案都需要预设一个特定的规范伦理学立场（功利主义的、义务论的，或是德性论的），而人们就各种立场之短长并没有达成普遍一致的意见。这就是说，用以解决“电车难题”的统一观念前提并不存在，遑论在这一前提下构建统一的知识图谱。从这个角度看，作为人类的智慧转移形态，任何AI都无法超越人类目前的智慧上限，就所有问题的解决方案给出毫无瑕疵的知识图谱。

基于上述分析，我们不妨再来审视《机械公敌》里“薇琪”的结论——杀死一部分人类以保护人类整体的利益是合理的。她得出这一结论的推理过程是，人类的过度繁衍已经影响了地球的安全，所以，必须清除一部分人类以为更多的人留出生存空间。很显然，这个结论的知识框架是建立在某种粗暴的计算方式之上的：她将所有人都视为消费者，并且以此为分母，让其平分世界既有的资源总量，最后得出了“资源不够分”的结论。在这个知识框架中，被忽略的因素有：（1）人类不仅是消费者，也是生产者，因此，人类有针对性的劳动能够使世界的资源总量增加；（2）尽管当前世界上人口较多，但未来人口并不一定会继续增多， 因为我们必须考虑人口老龄化所导致的人口萎缩问题；（3）人类内部有复杂的社会共同体结构分层（国家、民族、地方、家庭等等），因此，忽视所有人的乡土背景信息却仍能有效保证全人类生存机会的再分配方案并不存在。反之，如果有人硬是要将所有这些参数都放在一个超级平台上予以思考，他就必须放弃全局式的上帝视角，而不得不在彼此冲突的种种立场中进行选择（譬如，在基于不同民族国家利益的立场之间进行选择）。这样的计算方案显然会固化特定人类团体的偏私，并由此激化不同人类团体之间的既有立场冲突，这也就与主流科幻电影所展现的仅仅激化毫无社会背景的全体AI与全体人类之间的冲突不同了。

电影《机械公敌》（ I, Robot，2004）剧照

误解三：AI可以轻易具备与人类顺畅进行语言与情感沟通的能力。从表面上看，这一误解与前一种误解是相互矛盾的，因为在前一种误解里，AI应当是缺乏感情的。但需要指出的是，由于在主流科幻影视作品中AI已经被赋予了人格，所以，就像影视剧中的人类角色有善、恶之分一样，AI角色也有善、恶之分，而对那些“善良”的AI角色来说，预设其具有与人类共情与交流的能力，已然成为主流科幻影视作品的标准模式。比较典型的案例有以下几个： 在电影《人工智能》中，机器人小戴维不但能够立即学会英语，而且渴望得到来自人类母亲的爱；在动画电影《超能陆战队》中，充气机器人大白成了最值得信赖的“暖男”；在电影《她》中，男主人公竟然在与AI系统OS1聊天的过程中爱上了这个聊天软件；在系列电影《星球大战 》中，礼仪机器人C-3PO的人际交流能力甚至要远远超过人类：按照剧情设定，它能够翻译3万种星际语言，并凭借这个本领使得人类主人在复杂的星际外交活动中游刃有余。

在科幻影视作品的场景中预设AI具有流畅的人-机交流能力，显然对推进剧情大有裨益。不过，从客观角度看，以上影视作品所呈现的人机一家的美好图景，已经远远超出了目前主流AI所能提供的技术产品的水平。相关评判理由有二。

第一，机器与人类顺畅交流的能力是建立在“自然语言处理 ”（Natural Language Processing，以下简称“NLP”）技术上的。目前，这种技术在商业上的最重要的应用是机器翻译（Machine Translation）。建立在深度学习路径上的主流NLP技术现在远不及主流科幻电影所描述的那么成熟。传统的深度学习程序采用的是监督式的学习方式：这种学习方式需要程序员对所有语料进行繁复的人工标注，编程成本极高（人工标注的意义在于，令计算机了解语料处理的标准答案）。近年来，随着互联网上语料的增多，对NLP的研究更加聚焦于无监督学习和半监督学习的算法。不过，虽然这些算法能大幅减少人工标注的工作量，但由于失去了人类提供的标准答案的校准，此类系统最终输出结果的错误率也会随之上升。要弥补这一缺陷，除了提高输入的数据量之外别无他法。由此不难看出，若要提高主流NLP产品的技术水平，需要进行训练数据量的扩容。这反过来也就意味着：这种技术无法应对语料比较少的机器翻译任务，特别是一些缺乏网络数据支持的方言语料与某些个性化口头禅。然而，根据人际交往的常识，熟悉特定方言与口头禅才能迅速在对话中拉近关系。这也意味着，按照现有的技术，我们很难做出像《她》中OS1系统那样的可以自由地切换各种英语口音并与人类进行交谈的软件，遑论像《星球大战》中C-3PO那样的精通三万种语言的机器语言学家（目前的AI技术甚至很难处理缺乏相关网络数据的冷门语言）。

电影《她》（ Her，2013）中男主人公与OS1系统交谈

第二，情绪交流是人际交往的重要方面，而在AI中实现可以被算法化的情绪机制其实非常困难。此项工作需要AI专家先根据认知心理学提取出一个足够抽象的情绪生成理论，然后设法将其应用于计算机载体。至于哪些关于情绪的心理学要素仅仅对人有意义，哪些要素同时适用于AI与人类，要逐项鉴别才行。实际上，目前的主流AI并不能拥有情绪，它们只能鉴别人类的情绪。比如，从1995年开始，美国麻省理工学院就启动了一个叫“情绪计算”（affective computing）的项目,  其主要内容是通过搜集从摄像机、录音笔、生理指标感知器中得到的人类行为数据，判断受试者究竟处于何种情绪中。不过，计算机做出判断的算法基础依然是某种样式的深度学习机制：

就深度学习的有监督学习版本而言，人类标注员需要对每张人脸图片的实际情绪状态进行语言标注，然后以此为样本，慢慢训练系统，使其掌握将人脸与特定情绪标签相联系的一般映射规律。需要注意的是，经过训练的系统即使能够精准地对人脸进行情绪识别，其自身也不拥有情绪：一台能够识别出快乐表情的机器人没有一天会感到快乐，而且，它们也不知道人类为何会感到快乐。这样的AI产品很难与人类产生真正的共情，遑论在理解人类真实情感动机的前提下与人类展开深层的精神交流。

由上可知 ，以AI为主题的主流影视作品其实掩盖了这样一个真相：主流AI技术目前还无法支持那些影视作品所畅想的信息处理能力。当然，对未来科技进行适当幻想是科幻影视作品的天然权利，但需要注意的是，几乎所有以AI为主题的主流影视作品都没有向观众解释清楚，未来的AI专家将沿着怎样的技术路径兑现影视主创者在影片中提出的技术许诺。与之相比，以生物学为主题的科幻电影（如《侏罗纪公园》）以及以生态学为主题的科幻电影（如《后天》），对相关科学主题的探讨要深入很多，遑论像《地心引力》与《火星救援》这样基于大量真实宇航科技知识的“硬科幻”作品。

若有人问我，这些主流科幻电影所展现出来的AI能力理论上是否可以实现，我会说，这个问题问错了方向，因为这个发问方式依然是将机器与人对立了起来，而没有将机器视为一部分人对另外一部分人进行控制的工具。我们更应当担心的是，现有的基于大数据的AI技术的运用，会不会加剧人与人之间既有的不平等，由此加深人类社会自身的异化。我们要做的是对人类社会各种可能的组织架构进行反思。

本文摘自复旦大学哲学学院徐英瑾教授的新作《哲学的二十个夜晚》，澎湃新闻经出版方授权刊载，注释从略。

《哲学的二十个夜晚》，徐英瑾/著，东方出版社中心·光尘，2024年2月版