发展人工智能不是自掘坟墓，它至多是人类意志的一种延伸

理性是激情的奴隶。——大卫·休谟

324格的棋盘，一边坐着李世石——当世顶尖的棋手，另一边是AlphaGo——号称在挑战人类智力极限的人工智能程序。这一幕被包装得充满了仪式感，好像是人类智慧与人工智能的终极对决，这场对决的结果可能意味着一个时代的开始或者另一个时代的结束。第一场，李世石就败下阵来，似乎意味着电影《终结者》所描述的人类的宿命正离我们越来越近。这一次，在对弈之外，人们普遍对于人工智能的未来产生了恐惧，计算机是否已经可以比人类更加“聪明”了？有人疑惑，如果AlphaGo在对弈中的失误是故意卖给李世石的破绽是否更加可怕？而事实上，这些担心其实都没有抓住人工智能相关科技伦理的症结。

第一场赛前就有人问我，你觉得李世石和AlphaGo，谁能赢。我的回答是：不重要。大势不可挡，即使这次李世石赢了，他也会在不久的将来被类似的人工智能击败。本次人机大战充满了各种噱头，Google公司对它进行了精心的商业炒作，这无疑是一则完美的软广告。它备受瞩目由科技伦理而起：大家都想知道人工智能是否已经可以战胜人类智能，它到底预示着一个更加智能化的科技时代的到来，还是人类自掘坟墓的悲剧宿命的开始。无论再多的人从围棋的角度抑或人工智能算法的角度解读这场对弈，大家都不得不承认，这已经不单单是一场围棋比赛了。大家关心的不只是围棋，而是李世石所代表的人类智慧是否真的要低头了。但是大部分人并没有意识到，这次人机对战并没有创造任何新的有关人工智能的科技伦理问题，只是大家不熟悉这些问题的症结。

本次人机对战，本质上仍是人与人之间智慧的较量——一边是李世石，一边是AlphaGo团队。就像两个人比赛伐木，一个人力大无穷却没有工具，但另一个人有刀斧。我们称AlphGo为人工智能，而它实际上和人类发明的其他的工具并无本质区别。从深蓝到AlphaGo，人工智能的计算能力在不断增强，分析网络不断复杂化，但他们却仍然只是计算能力极强的工具，没有成为我们想象中的“终结者”。大卫·休谟告诉我们：理性是激情的奴隶。现在的人工智能只有工具理性而不能随机设定目标，它至多是人类意志的一种延伸。而一种拥有随机设定目标的能力并拥有无比强大的分析计算能力以实现目的的智能，将是一种“上帝”式的存在。这种智能一旦存在，可能地球的文明形式确实要改写。

两个思想实验

关于能随机设定目标的人工智能是否能够到来，涉及的论证太过复杂，在此只给读者讲两个思想实验来解释。

1950年，计算机之父图灵发表了一篇题为《机器能够思维吗？》的论文，论文中设计了一种非常巧妙的检测智能的方法：一个人在不接触对方的情况下，通过某种特殊的方式，与对方进行一系列的问答，如果最终他无法根据这些问题判断出对方是人还是计算机，那么，就可以认为这台计算机具有与人相当的智能。美国著名心灵哲学家约翰·赛尔认为这样的判断太过简单狭隘，他在1980年提出了著名的所谓“中文屋”的思想实验。该实验是这样设计的：塞尔设想他只懂英文不懂中文，被关在一间屋子里。屋子里有各种各样的纸片，上面有一些字符。通过屋子的窗口，屋外的中国人可以递给他有中国字符的纸片提问，他也可以通过窗口把另外一些纸片递出来“回答”。屋内有一本英文的规则书告诉他怎样为这些中文字符配对。于是屋外的中国人发现：屋内人对于用中文提出的问题总能给出恰当的回答，看起来似乎懂得中文。如此一来，赛尔就通过了图灵测试，但他依然不懂中文。他所做的只是按照规则进行形式的匹配。塞尔由此指出：“程序本身不能够构成心灵，程序的形式句法本身不能确保心智内容的出现。”显然，在赛尔眼中，任何计算机程序都是不具有理解力的，再复杂的程序本质上都是在完成句法的设定，屋外的人错误地认为屋内的人理解了中文，而屋内的人仅仅是做了简单的符号对应工作。计算机程序终究是没有目标的，有目标的是“屋外”的人。

赛尔的思想实验很快遭遇了反驳。一个叫“发光屋”的思想实验应运而生：1864年麦克斯韦提出光的本质是一种电磁波的理论，假如此时有人反对麦克斯韦的理论，要求他在一个漆黑的屋子里摆动磁铁棒，看看在漆黑的屋子里是否会有发光现象，麦克斯韦将无法反驳。后来我们知道，电磁棒摇摆频率低于1015Hz的情况下，不足以产生发光现象，这并不是麦克斯韦错了，而是我们对于自然的认识还不够深入。我们不能静止地看待人工智能，认为它只是完成一些句法任务的工具。随着这项技术的不断发展，它迟早会超越人类现在的认识局限，可能这项技术将发生革命性的变化，甚至人类在不经意之间可能早就这种智能。对于“发光屋”思想实验，赛尔的反驳不能使我信服。

两个思想实验引起了美国社会对于人工智能伦理的大讨论，以《霹雳五号》、《终结者》等为代表的的一系列相关电影应运而生。前者温情脉脉，认为具有感情的机器和人具有相似的人格，可以类似少数族裔融入人类社会；后者就不那么乐观了，认为一旦打开了潘多拉魔盒，人类的“审判日”也就到来了。国人对于相关问题的认识，也大多源于这几部电影。

2012年，已经80岁高龄的赛尔来到北大，我向他请教了关于“发光屋”实验的看法。他告诉我：其实类似“发光屋”实验的命题是基本不可反驳的，因为谁也看不到几百年后的世界，理论不断被怀疑和反驳才有价值。他开了一个“牛顿实验”的玩笑：如果几百年前有人对牛顿说，你的理论是有局限的，只不过要等几百年后人类对于世界的认识更加深入，你不觉得很可笑吗？

的确，在我们现在的认识局限内，“终结者”还难以实现，但是这样的伦理担忧还是有必要的。

“终结者”何以实现

关于“真正的”人工智能将如何出现，学界当然会给出各种各样的预言。英国物理学家彭罗斯的理论被广泛推崇。不同于哲学家、心理学家和生物学家，物理学家提出的认识理论似乎是在计算机领域更易实践的。

我们还是讲故事。当一个人接受全身麻醉之后，他会在一段时间之内丧失意识，这似乎可以证明意识是一种可以通过广义的物理方法阻断的生理过程。既然如此，我们可以认为意识的本质就是一个广义物理过程。彭罗斯试图用量子理论还原这一过程。这个时代，无论多快的计算机都在进行二进制计算，这完全是建立在经典物理学理论基础上的。彭罗斯认为，人脑显然不可能按这种简单的经典计算方式来处理信息。那么，人脑只能靠更深一层次的物理学，即量子力学来处理信息，产生意识。简而言之，人脑是一台量子计算机。彭罗斯随后和神经学家哈梅罗夫合作，提出了所谓Orch-OR理论，认为人脑中能够产生量子计算的单元是神经细胞的微管，因为是纳米尺度的蛋白质结构，量子效应显著。他们甚至认为，这可以解释何为“灵魂”：心脏停止跳动，血液停止流动，微管失去了它们的量子态，但微管内的量子信息并没有遭到破坏，也无法被破坏，离开肉体后重新回到宇宙。如果患者苏醒过来，这种量子信息又会重新回到微管，患者会说‘我体验了一次濒死经历’。如果没有苏醒过来，患者便会死亡，这种量子信息将存在于肉体外，以灵魂的形式。

尽管这一理论一经出世就遭遇了大量质疑，但随着量子信息学的发展，意识起源于人脑的量子计算这个未经证实的假说逐渐潜移默化到了很多领域。也就意味着如果这个假说正确，量子计算机可以完美模拟人脑。如《变形金刚》之类的好莱坞的科幻电影，在提到真正人工智能时都会用到“量子”这个词。最近一些机器人影片也在热炒这个概念。当然，谷歌这样的科技公司更不会放过量子计算机这个噱头。

一大批科技企业热衷于量子计算的概念。但至少在当前阶段，还没有经典算法不能转化的量子算法。也就是说：如果有一个量子算法能够产生人类的意识，也一定存在一个模拟人类意识的经典算法，反之亦然。看似一切都是科技界的动人外包装。

当然，人工智能的力量还很弱小，它再理性也必须接受人类的意志。机器，依然是人类的奴隶。伦理学家担心的是，一切是否一定会在人类控制之下。须知，人类在其他科研领域经常有种花得柳的表现：我们想制造一种对抗心脏病的新药，但最终这种新药成为了万艾可。我们当然不希望创造一个我们不能控制的怪物，而这个怪物会不会降临我们确实不得而知。因而，各国的人工智能伦理研究所纷纷成立，对于相关研究的界限也有待划清。

我们的科技观

在我们的语境下，“科学”往往是个褒义词。“科学规划”、“科学治理”这样的字眼常常被写入政策性文件，我们也并未觉得这有何不妥。本质上，这是一个从前现代到现代过度的国家对于现代性的一种崇拜。

我们崇拜科学，因为它具有改造自然推动生产力发展的伟大力量。但我们中的大多数却还没能建立科学本身所蕴含的理性思维方式。只有足够理性并了解科学才能对科学形成反思。

与人工智能影响力类似的科技伦理问题还有很多。比如基因改造。我们可以通过检测发现一些可以造成先天性疾病的基因，并把受精卵中的相应基因置换掉。看似是功德一件的好事，但是如果没有伦理约束会变得非常可怕：如果我们认为其他的基因也不够完美需要置换呢？走到极端，我们会创造身高相貌智力都无比优越的人，这样的人走到社会上会对其他人形成压倒性的竞争优势。于是不服气的父母们会把试管定为每个婴儿的起跑线。长此以往，会有太多具有类似“优势基因”的人来到这个世界上。他们太像了，就像工厂的产物一样，他们会破坏这个因多样而美好的世界。类似对于科技的反思往往智能因出现在好莱坞电影里被我们所知。我们习惯性地功利化看待科技，而“科学文化”却难以形成。中国人并非不对科学进行反思——往往学者们的讨论很热烈，但观点往往难以走出校门。

这些反思并非只属于小部分人。人工智能的长足进步必然引发大量工作岗位的消失，如果把它看成一个必然的历史过程，那么这一历史过程会极为残酷，甚至造成剧烈的社会动荡。不止是低端脑力工作行业，法务、金融、医疗这些高端服务行业的大量工作机会都将消失。如果对此没有清醒的认识，没有相应的政策早作计划和应对，结果将是灾难性的。

科学崇拜背后，是一种傲慢的现代性。我们实际上已经在品尝这种现代性带来的苦果：重度污染、产能过剩都是它的具体体现。有人说，这是每个国家从现代走向后现代必须经历的过程，都要痛过，才能学会反思。我们正在痛着，但是真的在反思吗？

对于科技，不只是决策者，每个人的思考都应当更为立体。科技并非科技本身，它一经出世就已经离不开与社会的互动。希望这次人机大战能够引发足够多的讨论，为全民上一场科技伦理教育课。人类应该更加理性地使用自己的“激情”，不是吗？