人类真会被反杀吗？——赛博朋克悖论的真相

【导读】近期火出圈的游戏《赛博朋克2077》把上世纪80年代的一支科幻艺术流派重新带回了公众视野。多年来，赛博朋克的创作一支保持着一系列极具辨识度的反乌托邦设定：高技术低社会、贫富分化、环境污染、弥漫式的增强现实、身体赛博格化、意识上传、人工智能……如果说前几种设定在今天正逐步应验，那么赛博朋克关于人工智能的激进想象则体现出计算机黄金年代人们对技术发展的盲目乐观——毕竟，今天没有并出现《银翼杀手》里的复制人，而Siri的功能基本还只限于上闹钟。

在二战后计算机技术的发展过程中，人工智能其实是个顺理成章的想法：既然大脑中的神经元通过只存在“有”和“无”两种状态的电化学信号来传递信息，而晶体管的导通与截止、继电器的开合也是“有”和“无”两种状态，那么是否有可能制造出“电子大脑”？

1943年，香农在贝尔实验室见到图灵时，就讨论到这种人造思维机器的设想。在后来的历史中，图灵的通用图灵机概念与香农用电子开关模拟布尔逻辑运算的想法都成了人工智能学科的奠基性理念。

然而，人工智能毕竟是一个意识体对自身意识的模拟，这种“上帝的工作”注定困难重重，其中既有通过硬件和算力上的“量变”可以克服的，也有在逻辑上被无情锁死的技术禁区。

今天的计算机尽管看似已经出现了智能，但其思想原理仍然来源于莱布尼茨对于“普遍语言”的推演以及图灵创制的图灵机5种基本操作；而人类智能除了记忆、计算之外，还有诸如感知、想象、直觉、学习等难以还原为纯粹逻辑的能力。因此，本文认为与其担忧人工智能超越人类，真正应该担心的是使用人工智能的人。

本文发表于《文化纵横》2020年2月刊，仅代表作者观点，供诸君思考。

逻辑的引擎：人工智能的旧限度与新可能

✪ 杜国平 | 中国社会科学院哲学研究所

人的能力主要包括体力、智力、意志力、繁衍力等。创造并借助各种工具，不断拓展各种能力，是近现代人类社会飞速发展的显著特征。20世纪，人类发明了计算机，21世纪，人类借助人工智能技术极大地拓展了各种智力。人工智能存在不同的认识和定义，本文采用的是比较通行的认识：人工智能指的是人类利用计算机对人类智力活动进行模拟。人工智能的飞速发展在提升人类智力的同时，也提高了人类社会的生产效率，给社会生活带来各种便利。但是，另一方面，由于人工智能表现出来的在某些方面远超人类的智能水平，又引发了许多人的惊惧。本文拟从逻辑的角度对这一问题进行剖析，以期澄清若干似是而非的问题。

游戏《赛博朋克2077》截图

▍计算机的“智能”

人工智能的工具载体是计算机，人工智能对人类智能的模拟均需借助计算机来实现，计算机功能的不断拓展是人工智能拓展的内在依据，计算机功能的限度也制约着人工智能功能的限度。那么计算机的功能限度是什么？为此，我们必须厘清计算机本质上在执行什么样的功能。

毫无疑问，计算是计算机的基本功能之一。历史上曾经有许多人提出使用机械来实现计算或者帮助人类进行计算的梦想。

早在17世纪，人类历史上最伟大的思想家之一莱布尼茨就提出一个伟大的构想：创制一种“普遍语言”，这种文字是一个表意的、精确无歧义的符号系统，其中的每一个符号都以一种非常自然而恰当的形式表达某个概念，单个符号表达基本概念，复杂概念可以由若干基本概念组合形成，这个符号系统可以涵盖人类全部知识领域，使用这些符号可以将人类的知识表达出来；在此基础上，以一些基本的知识作为前提，通过“推理演算”对这些符号根据演绎规则进行操作，就可以推演出各种新知识。

根据这一设想，人们可以很容易消除各种分歧和争论，当甲、乙双方遇到争论的时候，只需双方心平气和地坐下来，使用“普遍语言”将双方的前提和结论表达出来，然后拿起笔在桌子前耐心地进行“推理演算”，就可以消除争论，获得真理。莱布尼茨还设计了可进行四则运算的计算机模型。但是由于其他理论和物理条件的限制，莱布尼茨之梦在当时未能得到充分实现，但这一伟大构想为计算机和人工智能的产生奠定了思想基础。

不难看出，要实现莱布尼茨之梦，有两个基本条件，一个是“普遍语言”的创制，一个是“推理演算”之演算规则系统的建立。19世纪末20世纪初，由于传统逻辑的不断发展和现代逻辑的创立，这两个条件都已经基本具备了。一方面，由于弗雷格、罗素等人的工作，逻辑形式语言这种初级的、类“普遍语言”的人工语言得以建立，特别是逻辑语言“非（¬）”“与（∧）”“或（∨）”“全称（∀）”“存在（∃）”被普遍接受和使用；另一方面，诸如命题逻辑演算、谓词逻辑演算等各种逻辑演算系统这种类“推理演算”也不断创立。

在理论上已经具备了重启莱布尼茨之梦的初步条件之时，英雄人物图灵适时出现了，他构想的图灵机是实现莱布尼茨之梦的第一个现代计算机理论模型。要对人类的计算进行模拟并通过计算机来实现，就必须对人类的计算过程进行抽象。尽管人类的计算种类、计算过程千差万别，但是其面对的基本前提条件是：

（1）若干需要处理的符号数据等；

（2）对符号数据进行计算的变形规则（如加法口诀、乘法口诀等）；

（3）可以读取、存储、输出的纸、笔等工具、装置。

其运算的基本程序是：

（1）获得需要处理的若干有限数据符号等；

（2）根据计算或者变形规则处理获得的数据符号；

（3）输出并存储新获得的数据；

（4）确立下一步需要进行的步骤（读取什么数据符号，依据什么规则进行操作等）；

（5）在完成需要的结果之前重复上述步骤；

（6）不停地计算下去或者获得需要的计算结果。

图灵在分析诸如上述计算基本结构的基础上构造了计算机的一个理想模型——图灵机。图灵机由两个基本构件组成：一个可以满足计算需要的足够长的印着连续的若干空白方格的纸带，一个可以读取、擦抹、打印数据符号的可运动的机械装置。构件之外，一个特定的图灵机还有一个由若干指令构成的规则集合，以约定符号处理时的变形规则，每条指令规定获取到符号数据时机械装置所要执行的操作。该操作有且只有以下几个基本动作：

（1）擦去符号数据；

（2）打印符号数据；

（3）左移一格；

（4）右移一格；

（5）终止操作。

工作时，图灵机获取纸带上某一格的符号数据，然后根据数据指令集确定并完成上述规定的动作之一。未运行到“终止操作”，则重复上述步骤；若运行到“终止操作”，则计算完成。

通过上述直观的以及严格描述的图灵机不难看出，图灵机结构清晰、简单，“能够完成现代计算机能够完成的所有事情” ，尽管在物理存在、计算速度、存储空间等方面存在差异，但是其基本功能和今天最强大的计算机并无本质的区别。也可看出，图灵机作为理想的计算机模型，能够完成的基本功能就是存储和计算，别无其他。

人的智能包括感知、记忆、分析判断、推理计算、控制决策、学习等能力。从图灵机基本功能看现代计算机对人类智能的模拟仅仅是其记忆、计算等功能，甚至连感知功能都不具备。因为感知是人类意向性地获取信息、理解信息的过程，其中的核心要素是自主性、理解性。计算机对符号信息的“获取”，不存在自主性。准确地说是人类将信息输入计算机，计算机被动接收，谈不上对符号信息的理解。

即使今天人工智能能够“获得”大量的街景、个人信息等，但认真分析就可以发现这也只是借助人类契约（尽管有些约定可能未征得当事人的同意，但是遵循了社会公共道德和公序良俗）和摄像设备的信息输入。摄像设备不是主动感知，也不可能主动感知，只是人类在使其摄取信息；数据对计算机的传输以及计算机接收数据也不是主动感知，借助这两者实现的人工智能的信息“获取”，也不是主动感知。

计算机能够完成计算的每一步必须是清晰的、完全确定的，即使是在包括选择性、概率性的操作中，其进行的下一步也是完全确定的，而不是随机的。例如在包含选择性任务的p∨q中，它选择执行p还是q不是随机的，而是确定的。其执行的指令是诸如“若S1，则p”“若S2，则q”的条件句，而S1和S2是由此前的步骤确定的。

因此，即使是计算，计算机能够完成的也是“能行可计算”（effectively computable）的操作。图灵论题指出，任何能行可计算函数都是图灵可计算的。由此可见，今天的计算机尽管功能极其强大，但其基本功能理论上不会超过图灵机。而从对人类智能模拟的角度看，图灵机的基本功能是存储和数据计算（或符号处理），并且其功能的实现最终是依据人类设计的指令集来完成的。

尽管人工智能借助其他工具实现了某些极其强大的功能，可以打败人类棋手，可以在复杂的灾害环境中搜救伤员，显示出高度的“智能”性，但其本质仍然是存储和计算，其基本操作仍然等价于一台图灵机的5种基本操作：擦、写、左移、右移、停止，并且这5种操作还是根据人类指令来执行的：人可以自主提出目标指令，而人工智能至多只能提出执行人的指令的指令。只不过这5种操作经过各种算法不断组合、变化、再组合，已经变得非常复杂，特别是经过硬件技术的不断改进之后，远远超过了人类的想象。

在棋类比赛中，一台人工智能在几个小时内完成数亿人数亿年的“擦、写、左移、右移、停止”工作，而且分工明确、组织有序。以此观之，这么多人有序的计算工作打败一个世界顶级的棋手其实没有什么值得大惊小怪的。而如果将一台人工智能的智能行为的实现要素分解、延展来看的话，其中还包括从亚里士多德到莱布尼茨再到20世纪的希尔伯特、图灵、冯诺依曼等伟大头脑的智力工作。棋手们一点都不应该失落，因为他们输给了迄今为止人类最顶级团队集体智慧的结晶体。

今天，人工智能的记忆和运算能力已经远超任何一个一般的人类个体，在这一点上，人工智能是极其聪明的。但是人类智能除了记忆、计算之外，还有诸如感知、想象、直觉、学习等能力，人工智能的智能尚有很大的拓展空间。

▍否定性清单

作为大存储、疾运算的计算机，即使是在计算方面其功能也存在着一个“否定性清单”，即计算机在逻辑上不可能完成的任务，它至少包括非图灵可计算函数、不可判定性定理、哥德尔不完全性定理、“真”概念的不可定义性定理等。这些内容也许太过专业，我在这里仅以通俗易懂的方式提出其中的关键环节，讨论人工智能的限度。

（一）非图灵可计算函数

计算是人工智能的一项基本功能，函数运算是非常基本的一类计算，计算机是否可以完成所有的函数运算呢？答案是否定的。计算机能够计算的函数只是图灵可计算函数，而非图灵可计算函数是大量存在的。准确地说，图灵机能够计算的函数和自然数一样多，而它不能计算的函数却和实数一样多。所以，即使对于函数运算，计算机能够处理的也只是其中非常少的一部分。人工智能再强大，它也只能完成一部分函数运算。

（二）不可判定性定理

计算机执行的指令集可以分为不同的层次，其中最基本、最底层的指令无疑就是逻辑和数学指令。给定一组前提和一个结论，我们期待通过这些逻辑和数学指令以及其他相关指令，在有穷步骤内判定结论是否是这一组前提的推论。那么一个简单而直接的问题是，逻辑或者数学是否是能行可判定的？

对于命题逻辑，确实有方法来判定任给一个公式是否是真的，这些工作可以由计算机轻松地完成。但是对于带等词的谓词逻辑——形式算术，就不存在一个能行的方法，能够判定任给一个公式是否是真的，也不能判定任给一个公式在通常的谓词逻辑公理系统中是否是可证明的。这就是形式算术的不可判定性定理。更进一步，以此为基础的数学当然也是不可判定的。

不可判定性定理从理论上说明了判定任一数学命题是否是真理的能行程序是不存在的。这也符合人们的直觉：如果存在这样的判定程序，那么所有的逻辑和数学问题都可以通过计算机来实现，这倒是令人奇怪的了。人工智能可以在技术上实现记忆力更强、计算速度更快，但无法完成基础性的理论创新和突破，它再怎么聪明都无法取代逻辑学家和数学家的创造性。

（三）哥德尔不完全性定理

莱布尼茨之梦的一个自然推论是对于一个领域的知识，从恰当的前提出发通过“推理演算”可以演绎出该领域的所有真知。但是，当逻辑知识的范围，由命题逻辑拓展到谓词逻辑，再由谓词逻辑进一步扩展到更加丰富的逻辑系统的时候，情况就变得复杂了。

有些拓展如某些模态谓词逻辑仍然是具有完全性的，即以某些恰当的模态谓词逻辑公式作为公理，是可以将确定领域的所有逻辑规律推演出来的；但是有些拓展如将谓词逻辑进一步一致地拓展到包含初等算术系统的时候，完全性就不成立了，即无论以哪些公理作为出发点，总有该领域的真理无法从这些公理通过“推理演算”而得出。这就是哥德尔的不完全性定理。它说明了公理化方法对于内容足够丰富的领域，不可能通过演算得出该领域的所有真理。而计算机执行的指令集就相当于一个公理系统，当这些指令集足够丰富（包含极小算术）的时候，总是会存在该范围内的一些语句及其否定，都无法从这些指令集得出。计算机对这些语句将茫然不知所措。

（四）“真”概念的不可定义性定理

对于人工智能是否具有智能的讨论，图灵测试和塞尔的中文屋是比较有影响的两个论题，其中控辩双方争论的焦点之一是计算机是否能够“理解”其输入输出和处理的语句。究竟什么是“理解”或者什么样的操作才能称得上“理解”，这是一个颇有争议的话题，但是有一点是不容质疑的，那就是“理解”至少是一个三元关系，即“理解”是一个“主体”对于“符号”的“信息赋值”，其中“主体”可以是一个人、一个生物个体，当然也可以是面对“符号”的任何一台机器，包括人工智能；“符号”是一个输入输出和需要处理的对象；而“信息赋值”就是给“符号”一个“语义”。

简而言之，“理解”至少包含一个“主体”对于“语形符号”的“语义赋值”。相对于具体的“主体”人工智能而言，它所面对的“语形符号”无疑就是数据和逻辑的形式语言，其中最为基本的符号就是数字1、0以及逻辑符号“非（¬）”“与（∧）”“或（∨）”“全称（∀）”“存在（∃）”等，人工智能需要读取的是这些形式语言中的合式公式。人工智能对这些“语形符号”的“语义赋值”就是对其进行解释的过程。它对这些语言符号的“信息赋值”尽管可能有各种不同，例如可能将其赋值为英文，也可能将其赋值为中文，但是“真”“假”是其中最为基本的逻辑“语义赋值”。

人工智能对符号的“理解”是通过对“语言”进行“语义赋值”来实现的。这在命题逻辑和谓词逻辑中是不难实现的，但是当语言丰富到包括极小算术的时候，塔斯基定理告诉我们，在这样的系统中，“真”概念不是算术可定义的，在这样足够丰富的语言中定义该语言的真谓词将导致悖论。这就给人工智能的“理解”戴上了一道紧箍咒：在简单的形式语言中，人工智能可以“理解”最基本的语义“真”，但是到了足够丰富的算术语言中，人工智能甚至连最基本的“真”都无法“理解”。

▍另辟蹊径

如前所述，人工智能是人类利用“计算机”对“人类智力”活动进行“模拟”。从逻辑、语言的角度分析，人工智能要取得重大的基础性突破，可能需要转换路径。

（一）基于“模拟”

当下，人工智能的应用主要面向的是社会、生活需求，模拟的主要是工程、技术方面的场景需求。人工智能在满足人类物质需求、享乐需求的同时，立意应该更加高远，更多地追求满足人类的理性需求。

人类最基本的理性需求和创造性需求是发现知识、证明知识。知识发现与定理证明是人类高层次的发展需求、精神需求和创造性需求。知识发现与定理证明都是人类的创造性活动，但两者之间存在显著的差别。其中在推理方面的主要区别是，定理证明主要运用的是演绎推理，而知识发现主要运用的是非演绎推理。人类知识发现的基本程序是形成概念、做出判断、探求因果联系、统一理论、预测应用等。其中运用的非演绎推理主要有归纳推理、类比推理、溯因推理等。例如，在量子力学的探寻过程中，首先要从大量的诸如观察事实、实验数据中归纳形成量子、态、物质波、不确定关系等概念，在此基础上建立不同概念之间的联系并提出各种带验证的假说。这些创造性活动中大量运用归纳推理。归纳推理的基本特征是从若干个别或特殊性事例中提升出一般性的概念或判断，这是一个不断抽象的过程，而这一过程是一个主观创造的过程，并无一个可操作的规范性程序，即没有一个能行的归纳程序。目前，计算机对人类智能的模拟本质上是依据算法等指令对人类智能能行性的模拟，而人工智能要取得突破，关键是对创造性的模拟。

定理证明的基本程序是从若干公理或者前提假设出发，依据确定的若干推理规则进行演绎，并最终得出待证命题的过程。这一过程在若干范围内是计算机可模拟的，而且人工智能也比人类要快捷许多，例如对命题逻辑的定理证明。但是在比之复杂的谓词逻辑公理系统中，其定理证明就不是人工智能可以实现的，因为不存在一个能行的判定程序。如何缩小前提范围、不受否定性清单的约束、恰当选择极小算术的若干片段来实现重要定理的证明，这是人工智能理性探索的一个重要课题。

在智能模拟的方法上，今天的人工智能对数据的处理主要采取的是演绎路径；对不确定问题主要采取的是对数据进行统计归纳和概率演算，而缺乏因果性、相关性的探求。这只能依赖于逻辑基础理论的创新和突破。自亚里士多德、斯多葛学派以来，经历莱布尼茨、布尔、皮亚诺、弗雷格、罗素等线索发展起来的是严格的演绎逻辑体系，这方面的成果蔚为大观，前述否定性清单中的成果都属于这个路径，这些成果可以说是人类理性探索的典范性、巅峰性成果；而培根、穆勒、莱欣巴哈、贝叶斯、卡尔纳普等线索发展的归纳逻辑体系研究则显得势单力薄，归纳逻辑的元理论成果，特别是巅峰性成果尚未出现。人工智能在模拟人类理性探索、创造性探索方面需要新的逻辑基础理论成果，特别是非演绎逻辑的重大进展。非演绎推理型计算机的创制将是未来人工智能发展的一个重要路径。

（二）基于“人类智力”

人类智力是人认识、理解客观事物并运用经验、知识、工具解决问题的能力，包括感知、记忆、想象、思考、判断、预测、决策和学习等能力。从能力模拟的角度看，现在的人工智能存在尚未充分模拟的能力，如想象能力、直觉能力等。除此之外，尚有图灵机不可模拟的能力，甚至不可使用语言或者符号表达的能力以及人不可感知的能力（隐性能力）。这些都是未来人工智能拓展的巨大空间。

人工智能对智能的模拟有一个基本假定，就是人类的智能是计算的。如果仅仅从计算控制的角度进行规约，这是否会陷入一种循环？神经中枢控制身体，大脑控制神经中枢，C脑区控制D脑区，B脑区控制C脑区，这样追溯下去，终极控制是什么？模糊的整体论或者互动论并不能解决根本问题。如何突破这一基本假定，对人类智能本质获得更加深刻的认识，是人工智能哲学需要解决的基本问题之一。

（三）基于“计算机”

关于智能的工具载体要拓展思路：在借助计算机来模拟人类智能之外，可否借助其他工具，例如借助生物智慧或者利用群体生物智慧来模拟人类智能？现代生物医药的发展，已经能够通过给生物创造虚拟现实环境，并且可以捕获生物对虚拟现实环境的刺激，进行放大、缩小、改变，借助生物反应，来控制智能体对环境做出反应。是否可以进一步探究生物感知反应、直觉反应和学习技能等来拓展人工智能。

另外，与借助符号、结构、模式的数据模拟不同，也可以通过实际事件或物理模型来模拟从而实现瞬时、即时反应。例如模拟天象的浑天仪，并不需要复杂的运算就可以随时确定天体的运行方位，就是一个典范。

▍余论

人工智能会反杀人类吗？这种担心其实没有必要。人工智能仅仅是一个特殊的工具而已。真正应该担心的是制造人工智能或利用人工智能的人。人工智能迄今仍然是没有自主性的智能工具，从其根目录上看它执行的是人类的指令。尽管人工智能在程序的执行过程中会表现出“疑似自主性”，如前所述，这是虚假的自主性，本质上是一种选择性、随机性，和人类的自主性完全不是一回事。

通行定义中的人工智能只是对人类智能的模拟：“人工智能”一词容易引起误解，其实它就是人工机器，并无智能。从记忆功能看，古人使用摆放石子来计数，使用结绳计数，但是我们并不会认为石头、绳子有智能；从运算功能看，人们曾经使用算盘运算，帕斯卡用加法机运算，人们也不认为算盘、加法机有智能；从存储程序看，皇陵中防盗的机关、猎人捕猎的陷阱以及多米诺骨牌都有一定的程序存储功能，但是我们也不会认为机关、陷阱和骨牌有独立的智能，因为它们只是包含了人类的智能。当然我也并不否认可能存在真正意义上有智能的“人工智能”，存在不局限于计算机对人类智能的模拟的人工智能，它很可能用其他形式逼近或超越人类智能。

人类的任何思想，只要是自然语言可表达的，均可以使用一组符号无歧义地准确表达出来——这是人类历史上一批伟大的逻辑学家，如亚里士多德、莱布尼茨、布尔、弗雷格、罗素、希尔伯特等人的思想成果。今天，只要使用四组符号：个体符号、函数符号、谓词符号和括号即可表达人类的任何思想。这是对莱布尼茨伟大思想的一个推进。今天，我们如何重回起点，探求实现莱布尼茨之梦的新路径，可能比设计一种新算法或者增加更多层次的人工神经网络更为根本。而尽量使用思想来解决问题，而不是使用不断扩充的设备来解决问题，这应该是拓展人类智能的根本之路。

本文发表于《文化纵横》2020年2月刊，原题为“逻辑的引擎：人工智能的旧限度与新可能”。图片来源于网络，如有侵权，敬请联系删除。欢迎个人分享，媒体转载请联系本公众号。