机器人到底能不能产生意识

【编者按】

最近，美剧《西部世界》热播、谷歌推出了神经网络翻译，又让人开始争论：机器人到底能不能产生意识。

“认知神经科学之父”迈克尔·加扎尼加（Michael S.Gazzaniga）在他的科普经典《人类的荣耀：是什么让我们独一无二》中，对这个问题也有所阐释。迈克尔·加扎尼加是全球著名的脑科学家之一，他一直尝试着解答“大脑究竟如何产生意识”这一问题。经过多次跨学科的交流与碰撞，加扎尼加和心理学家、语言学家乔治·米勒（George A. Miller）在1970年代末期共同创立了认知神经科学。

《人类的荣耀：是什么让我们独一无二》中文版最近由湛庐文化策划出版，澎湃新闻获得授权摘录其中部分。

人工智能（Artificial Intelligence，简称AI）一词出自于“人工智能夏季研讨会”。这个研究项目由达特茅斯学院的约翰·麦卡锡（John McCarthy）、哈佛大学的马文·明斯基（Marvin Minsky，作为人工智能领域的先驱之一，写就了引领人工智能大趋势、透视下一个大挑战的领先巨作《情感机器》，该书简体中文版已由湛庐文化策划，浙江人民出版社出版）、IBM公司的纳撒尼尔·罗切斯特（Nathaniel Rochester）以及美国贝尔实验室的克劳德·香农（Claude Shannon）一起于1956年夏天在美国新罕布什尔州汉诺威市的达特茅斯学院开展。研究意在检验我们对学习或是智力特征的其他各个方面的推测是不是大致准确，机器是否能够模拟它们。其中一个尝试是造出能够使用语言、形成抽象概念、解决人类尚无法解决的问题并提升自己的机器。如果一群精英科学家在一个夏天里一起合作，应该可以为这些问题中的一个或多个的解决带来显著的进展。

回顾半个多世纪以前的这个想法，当时的人们似乎有些过于乐观了。现在的美国人工智能协会（简称AAAI）将人工智能定义为“科学地理解思维和智能行为的机制，并将其赋予给机械”。然而，虽然投入到制造智能电脑中的计算能力和努力非常多，电脑还是没办法完成三岁小孩都能做到的事情：它们没办法分辨猫和狗。它们也没办法做到所有丈夫都会做的事情：它们不理解语言的细微差别。比如，它们不知道“你倒过垃圾吗”这个问题实际上是在说“去把垃圾倒了”，而且这个问题还有隐含的意思：“如果你不把垃圾倒了，老娘就……”随便使用一个搜索引擎，看看搜出来的东西，你会想：这些玩意儿是哪儿来的？这不是我要找的东西。语言翻译软件也很垃圾。显然这些程序完全不知道它所翻译的句子的意思。人们一直在努力改进，但即使运用了海量的计算能力、内存以及模仿能力，想要造出有人类智能的机器仍是一个梦。为什么呢？

人工智能分为两种：低级和高级。低级人工智能就是我们所说的电子计算机。它指的是用软件来解决问题或进行推理任务。低级人工智能没有完整的人类认知能力，但它可能有人类所没有的能力。低级人工智能慢慢渗透进了我们的生活。人工智能程序正在控制我们的手机通话、电子邮件以及网页搜索。它们被银行用于探测欺诈交易，被医生用于诊断并治疗病人，还被救生员用来扫描沙滩以发现需要帮助的游泳者。人工智能的出现导致我们打电话给任何大企业，甚至许多小企业的时候，跟我们通话的都不是真人（美国大量企业使用智能客服来回答致电者的简单问题）；而智能语音识别则让我们只需说话不必按键。低级人工智能打败了国际象棋冠军，也能比大多数分析师选出更好的股票。但杰夫·霍金斯指出，IBM的那台在1997年打败国际象棋冠军加里·卡斯帕罗夫（Garry Kasparov）的电脑“深蓝”并不是因为比人类聪明才赢得比赛的。它的胜利只是因为它比人类的思考速度要快几百万倍：它每秒可以评测两百万步棋。“‘深蓝’对比赛历史没有概念，它也不知道对手是什么。它虽然可以下棋，但并不懂棋，就好像计算器可以执行算法，但却不懂数学一样。”

高级人工智能则是让许多人抓狂的人工智能。高级人工智能是加州大学伯克利分校的哲学家约翰·瑟尔（John Searle）创造的一个词汇。虽然他本人并不这么认为，但根据其定义，高级人工智能可以理解并拥有自我觉知。“根据高级人工智能的定义，电脑不仅仅是研究心智的工具；具有合适程序的电脑就是心智，因为有这样程序的电脑可以说是理解并拥有其他认知状态了。”瑟尔还说，所有意识状态都是由更低级的大脑加工过程产生的，所以意识是一种涌现的现象，是一种物理属性——源自整个身体的输入之和。意识不会产生于脑中的几个无伤大雅的笑话。意识不是计算的结果。你必须要有一个身体，以及来自身体的生理和感知输入，才能够产生一个经过思考且有人类智能的思想。

相信机器可以拥有意识的逻辑跟制造人工智能的逻辑是一样的。因为人类的思维过程就是电活动的结果，如果你能用机器模拟同样的电活动，那么机器就会拥有人类的智能和意识了。而且就跟人工智能一样，有些人认为这并不意味着机器的思维进程需要跟人一模一样才能产生意识。同意霍金斯观点的人则认为思维进程必须一样，而要有一样的思维进程就也要有一样的组合方式。还有一些人持观望态度。

探寻人工智能之旅并非始于对大脑的逆向工程。因为在1956年，当人工智能还是星星之火时，人们还并不怎么了解大脑的工作机制。这些前辈工程师们在设计人工智能时没有理论支持，只能即兴设计。他们首先各自提出了制造人工智能不同部分的方法，其中一些方法实际上为理解大脑工作机制提供了线索。有些方法是基于数学法则的，比如基于以往相似事件来确定未来事件发生的可能性的贝叶斯逻辑，或是评测特定序列事件发生可能性以及被用于一些语音识别软件的马尔可夫模型。这些工程师造出了“神经网络”，用于并行运行和大致模拟神经元及其连接；他们还发现了没有经过提前编程的机器反应。这些系统还被用于语音识别软件、对信用卡欺诈的探测和笔迹识别当中。有些系统是基于推断的——基于传统的“如果这样，那么那样”的逻辑。有很多程序可以在大量可能的选项中进行搜索，就好比“深蓝”运行的国际象棋程序。有些人则在设计具有世界基本常识、因果规则、与某种情况紧密联系的事实以及意图目标等的人工智能，比如能规划路径并告诉你最近的中餐店怎么走的车载导航仪。

但人类大脑在很多方面都与电脑不同。在库兹韦尔的著作《奇点临近》（The Singularity Is Near）中枚举了这些差异：

·大脑电路虽然很慢，但却有大量平行处理。大脑有大约100万亿个神经元连接，这比目前任何电脑都要多。

·大脑无时无刻不在重新改造自己并进行自组织。

·大脑可以启用紧急方案。这也就意味着智能行为是由混乱和复杂所产生的难以预测的结果。

·大脑的发展水平很稳定。人们并不会突然比之前聪明10倍，只会变得更聪明一点点。

·大脑很民主。我们会反驳自己，有内部冲突，从而可能产生一个高级解决方案。

·大脑会进化。6-8个月大的婴儿不断发展着的大脑会产生许多随机突触，其中那些与理解世界最相符的连接模式会被保留下来。某些大脑连接模式很重要，而其他则是随机的。结果是，成年人的突触要比婴幼儿的少得多。

·大脑是一张分工网络。脑中没有独裁者或是中央处理器来做决定。它的连接四通八达：信息有许多种在这张网络中穿行的方式。

·大脑有以特定连接模式相连的成块区域，可以完成特定功能。

·大脑的综合设计比神经元的设计要简单。

有趣的是，库兹韦尔忽略了一些很重要的事情。他忽略了大脑是连接在身体上的。目前为止，人工智能程序只能做它们被设计去做的事情。它们不会概括，也没有灵活性。“深蓝”即使有大量的连接、海量的内存以及能源，也并不知道应该把垃圾倒了，或者其他任何设计之外的事情。

虽然尚未达到与人类同等的智能水平，但电脑已经在一些能力上超越了我们。它们在解决符号代数和微积分问题，安排复杂任务或序列事件，排布装配线路，以及其他许多与数学相关的加工过程中都比我们要强。它们不擅长评估质量，也没有常识。它们无法评论戏剧。正如我之前所说的，它们也不善于把一种语言翻译成另一种，不理解语言中的细微差别。奇怪的是，它们做不到的很多事都是4岁小孩儿就能做到的，而不是物理学家或数学家才能做到的。

至今没有电脑能够通过计算机科学之父艾伦·图灵（Alan Turing）在1950年提出的图灵测试。因此无法验证这样一个问题：机器可以思考吗？在图灵测试中，一个人类判断者会与两方进行自然语言交流，两方中的一方是人类而另一方是机器人，两者都试图表现得跟人类一样。如果判断者无法确信哪个是机器，那么机器就通过测试了。对话通常限制在文字上，以免声音成为偏差因素。

许多研究者并不认为这个测试可以判断机器是否有智力。行为不是测试智力的方法。电脑可能表现得很智能，但并不代表它就是有智力的。