人工智能之“天问” | 人与机器：思想人工智能（一）

编者按：本文是社会学者顾骏教授、计算机学者郭毅可教授主编的《人与机器：思想人工智能》一书的前言，阐述了顾骏教授对人工智能的直觉感受和发散思考，系统表达其对人工智能与人类关系的批判性思考，以及对人工智能可能带来的人类学后果开展哲学反思。而这本书又是上海大学2018年起开设的面向本科生的通识课程“人工智能”的成果，开设该课程及撰写此书的目的，是让文科生了解人工智能的知识，让理工科学生了解人类对于自身的思考。

人工智能之“天问”

“人无远虑，必有近忧。”

——孔子《论语·卫灵公》

“先事虑事，先患虑患。先事虑事谓之接，接则事优成。先患虑患谓之豫，豫则祸不生。事至而后虑者谓之后，后则事不举。患至而后虑者谓之困，困则祸不可御。”

——荀子《荀子·大略》

人工智能是当下最受关注的技术创新和产业趋势。从积极方面说，人类能够利用人工智能提高生产和生活效率，这已成共识，可以讨论的只是在多大程度上实现这一点。从消极方面说，“第四次革命”“奇点”“颠覆性影响”等说法，形形色色，传递出人类对人工智能既爱又怕的复杂心态。为了利用人工智能，应对可能的冲击，前瞻人工智能可能给人类带来负面影响的研究越来越多，这同样是必要的，只有把各种可能性都做了考虑，才能未雨绸缪，确保人工智能开发不至于走得过远，集聚失控风险。

问题是，目前国内有关人工智能风险的研究大多未涉及人工智能本身的属性，即使有，多半也只是一些碎片化言论，缺乏完整论述，更未对所取立场、视角和方法作方法论反思。因此，此类研究虽则在具体问题上见仁见智，提出了不少有价值的看法，但基本上停留在形而下的层面，将人工智能等同于人类已有的创造，并以人类过往对科学技术的有效管控为参照，对人工智能与人类智能的关系，采取简单乐观的态度，至多针对就业岗位减少等表层效应，提出预测和应对方案，而就人工智能开发整体上表示审慎态度和长远忧虑的论述极少。客观地说，如此态势对人工智能的发展来说，构成了相当友好的环境，但就正视人工智能可能带来的颠覆性影响，充分评估潜在的负面效应，提前做好风险应对的准备而论，则是明显不够的。一旦出现未曾预料的新现象、新进展、新证据或新后果，现有的前瞻研究很可能被证伪，无法起到科学预测应有的作用。事实上，从“深蓝”到AlphaGo，遵循“摩尔定律”的人工智能，以其神速发展和已达到的智慧水平，一再令人大感意外。按照这样的轨迹和速率，在未来的日子里，人工智能震惊人类的频率和烈度，只会趋于密集和增高，盲目乐观将被证明是不明智甚至愚蠢的。作为对人类共同命运的关注，中国的人工智能风险研究尤须走出表层思考，努力提升思维层次，形成与发达国家学者对等交流的态势。从确保前瞻研究的方法论严谨和预测可靠出发，保持适度超脱，站在哲学高度，严肃提出问题，破除遮蔽，擦亮思维，激发洞察，才能站上前瞻研究的制高点。

关于人工智能最简洁也最直击要害的定性描述是，人工智能有可能颠覆人类智能，所谓“奇点”就是这一天到来的时间节点，据说从现在算起，还有30年左右的时间。英国物理学家、哲学家霍金生前多次提出明确警告，人工智能的崛起可能是人类文明的终结，“我们不确定我们会从人工智能得到无限帮助，还是被无限边缘化，甚至毁灭”。

霍金是为数不多的敢作“盛世危言”的科学家。尽管他对人工智能和利用人工智能造福人类，总体上抱乐观态度，但一个“不确定”已清楚地表现出这位科学家、哲学家的思想独立和思维严谨。仅仅“颠覆性影响”这个说法本身，就足以让人不敢在尚未进行合理而系统的质疑前，就对人类智能与人工智能的关系，想当然地做过于乐观的遐想。

现在的问题不是霍金的担忧是否杞人忧天，而是我们能否在高于单纯技术的层次上思考人工智能的前景，进而思考人类智能乃至人类的前景。在此，借鉴中国传统文化的三对范畴——体与用、道与器和天与人，逐级提升，对人工智能的形而上性质及其与人类智能的关系，提出一些问题，并做方法论的阐释。

1.人工智能是“体”还是“用”？

“体”与“用”是中国哲学的基本范畴。西学东渐之后，中国学者提出“中学为体，西学为用”，主张以中国文化为本体，西方文化为效用，利用西方文化来帮助中国实现文化更新。这种封闭态度随即遭到批判，但体用之别的视角是有价值的，中国坚持走自己的路，始终强调“中国特色的社会主义”，就有类似策略隐含其中。

套用这一思路，着眼风险的研究首先必须确定人工智能到底应该被看作具有自身存在和固有逻辑的“本体”，还是仅仅服务于人类目的的某种“效用”，即为人类意愿所左右的技术。如果仅承认其效用，那只需像当年对待电能和石油、现在对待高铁一样就行，没有必要过多忧虑，什么对人类的颠覆性影响，完全无从谈起： 不成其为“本体”，何来人工智能取代人类智能的问题？

反过来，如果把人工智能置于“本体”地位，则必须考虑，引入人工智能是否意味着在本来由人类智能一统天下的世界上，出现了竞争对手？一元的智能世界是否就此变成二元的智能世界？两种智能的关系又将如何？未来的趋势又会怎么演变？如此这般的问题就不再是借助人工智能来提升人类智能那么简单，也不只是人类智能和人工智能到底谁会最后统治地球的问题，还将拓展到诸如外星文明、宜居星球等更具科幻感的宏大话题。

在天文学领域中，人类曾经跨出勇敢的一步，从“地心说”进到了“日心说”，基督教宇宙秩序从此被颠覆。在人工智能领域，人类是否也会迈出同样勇敢的一步，在看待人工智能时从“用”进到“体”？这两项思想行动之所以称得上勇敢，因为其挑战的是同样的思维误区、同样的刻板模式和同样的自我遮蔽——人类中心主义。

２.人工智能是“道”还是“器”？

“道”与“器”是中国哲学的另一对基本范畴。孔子说“君子谋道不谋食”，“朝闻道夕死可矣”，还说“君子不器”。“道”具有形而上的属性，是世界的本源，而“器”只有形而下的属性，用于满足实际生活需要。今日所谓“人才”者，在孔子看来，差不多只是用于完成功能性事务的人形工具。简言之，“道”与“器”这一对范畴问的是： 人到底是为了超越性的更高存在而存在，还是仅为生存而生存？

把这一思考方式运用于人工智能，虽不够严谨，却仍有价值。因为一旦承认人工智能具有本体属性，必然会提出进一步的问题，即人工智能究竟是作为一种更高存在，比如“道”的实现形式，还是仅止于其自身的工具性存在，即所谓的“器”？换言之，人工智能的发展是按照某个外在指令不断演化，还是仅仅依靠人类获得技术层面的逐步完善？

如果视之为“器”，那只需要讨论如何把人工智能设计得更完善，所谓负面影响即便纳入考虑，也仅限于实用层面，根本不用关心“颠覆性”问题： 人工智能跳不出人类手掌，能带来多大毁灭性影响？充其量不过技术失误，就像核电站泄漏，不是核能挣脱了人类控制，只是人类在设计、制造或运行中出现了失误或疏忽而已。所以，前瞻也只需要从人类的角度，注意避免人工智能可能存在的缺陷和因此导致的风险。

相反，如果视之为“道”，那就必须承认发展人工智能必定服从某种固有逻辑，顺应某种规律。因此，关于人工智能的风险研究必定致力于揭示其逻辑指向，找到必然趋势，然后才能预测相关技术会产生什么影响，包括负面影响，否则，预测难免成为一堆碎片，而前瞻也将成为鼻子底下的探险之旅。

3.人工智能是“天”还是“人”？

承认了人工智能是“体”，反映了“道”的要求，接踵而来的问题是，这个“道”是“天道”还是“人道”？也就是说，人工智能作为模拟智能，模拟的到底是存在于宇宙中的智能一般还是人类的特殊智能？

中国传统文化信奉“天人合一”，所以，天道即人道。但既然存在天道和人道两种形态，那彼此的关系问题就不会是没有价值的。“人道服从天道”是中国文化的根本信念。老子说：“天地不仁，以万物为刍狗。”在这里，“仁”体现人道，属于人文价值，居于核心地位，但在“天道”运行范围内，却无足轻重。司马迁说的“究天人之际，通古今之变”，意思更加明白，天与人是有区别的，而边界在哪里，就是一个好问题。

把这一视角运用于人工智能研究，如果其模拟的是“人道”，那么模拟者要超越被模拟者，就相当困难，人类意志决定了人工智能往哪个方向发展，发展到什么限度，一旦人类发觉可能遭遇重大风险或威胁，可以直接中止人工智能的进一步研发。

如果人工智能模拟的是“天道”，那无论人类怎么干预，人工智能总会遵循固有逻辑，沿着不受人控制的方向发展下去。在这个过程中，自然指令才是人工智能发展的最终动力，超越人类智能因此是完全可以想象、绝对符合逻辑的。毕竟，至今没有人能证明，人类智能是宇宙最高智能形态，不可超越。“道可道，非常道”，人类智能也好，人工智能也好，都只是智能一般的实现形态，不是智能一般本身。所以，仅凭对人类智能的不完全认识，不足以断言智能一般是怎么回事，也就无法断言人类智能必定凌驾于人工智能之上。事实上，智能机器人有了深度学习能力之后，超越人类智能的现象已多次出现。警报早已响起，研究者不能选择性失聪。

最近有报道称，在Facebook进行的研究项目中，两个智能机器人在对话中自发生成了人类无法理解但确有意义的语言，出于审慎的考虑，项目被暂时中止了。

对于这样一个案例，站在人工智能只是模拟“人道”的立场上，会相信人类的理性和控制力，只要关闭研发的主动权仍在人类手里，就不用担心人工智能会颠覆人类智能。而站在“天道”的立场上则会推测，无论人类看没看到威胁，愿不愿意接受风险，都将身不由己地继续研发，即便出现更为骇人的情形，也不得不任其发展，因为有超越人类的自然机制在控制着人类本身，驱使人类有违本意地放任人工智能发展，哪怕最后毁灭人类自身。

纵观世界，人类装备核武器、制造巨量垃圾、严重污染环境，且应对无方，早已准备好了毁灭自身的条件，不差人工智能这一条。如果自然界演化规律确实只是让人类做一回“天地之过客”，那在人工智能研发的关键时刻，人类的自由意志将只会被用于开启自己墓道的闸门！

这三个维度以及内含的两个不同方向，对于前瞻人工智能都不是没有意义的，但风格不同，层次不同，关注点不同，最后结论也将完全不同。考虑到目前关于人工智能的研究在“用”“器”和“人”的方向上比较多，基于补缺的目的，这里有意更多地往“体”“道”和“天”的方向上，来前瞻人工智能及其可能的风险。

理性是人类认识和改变世界的终极手段，但现代社会科学尤其是社会学恰恰产生于对于人类理性的悖论性认识： 社会学在认识到法国革命的结果不尽如人意后，基于理性设计不足以建成理想社会的事实，推断出人类理性本身存在缺陷，在此基础上，重新提出研究和改革社会问题的理论构想和应用方案。这一发现本身具有极大理论价值，称得上人类自我认识的一个里程碑。但问题是，单凭有缺陷的理性能认识理性的缺陷吗？人类借助理性获得的关于理性缺陷的认识，会不会本身就是理性缺陷的结果？社会学素有三大悖论，“理性悖论”就是其中首要的一个。

同样道理，如果承认人工智能有可能成为人类迄今为止遭遇到的最大的“颠覆性影响”，因为其挑战的是被视作人之为人的本质属性，即人类得以认知、改变和创设世界的能力，那么，关于人工智能的前瞻研究难免遭遇相似的悖论： 将被人工智能颠覆的人类智能，能够预测人工智能及其颠覆方式和颠覆后果吗？这如同要求脑外科医生在清醒状态下给自己的大脑动手术，可能吗？

关于这一问题的回答，如果不是全然否定，至少也是不确定的，而部分科学家如霍金等对人工智能发展前景表示疑虑和担忧，很大程度上，就是因为看到人类思维存在“灯下黑”。其实，不要说对人工智能这样深刻挑战人类尊严最后堡垒的发明，就是现已处于成熟期的互联网技术，其发明之初也曾以“虚拟存在”而让人深感“颠覆性影响”的威力。今天被视为中国创新成功之标志的BAT，曾几何时不但拿不到多少国内投资，阿里巴巴也因VIE股权架构而先后被中国内地和香港证交所拒绝，最后只能去美国上市。“煮熟的鸭子”没有飞走，但国内投资者确实只能望而兴叹。在数据的重要性日益被人承认的今天，就其对国计民生的重要性而论，这些网络巨头要比扎堆传统行业的国企，分量重得多，何以当时被视若无睹，没有获得国资投入以保证国家对战略行业的有效控制？原因或许在于官员的自信，只要在中国境内运行，就没有国家控制不了的，但更有可能的是，这个前所未有的“虚拟存在”相对人类习以为常的“现实存在”，实在过于“颠覆”，以致国资官员和中国投资家，根本想象不到自己的智商会被“颠覆”得如此不堪！

人类智能的有限决定了人类对人工智能及其影响的认识是有限的，决定了由此提出的前景预测和解决方案在有效性和可靠性上是有限的。只有基于这样的认知前提，风险研究才可能是客观而且科学的。否则，陷于“人类中心主义”的误区，无视人类智能的短板，跳不出因循思维的窠臼，任何预测都难免陷入盲人摸象、一知半解的困境。

在事关人类命运的重大抉择面前，风险研究者岂能放任自己“盲人骑瞎马，夜半临深池”！

为人类生存和理性尊严计，关于人工智能各种方向上的前瞻研究都是必要而且重要的，但研究者应该在增强“理性有限”意识的基础上，合理借鉴社会科学界已经提出和实践了的方案。

长期以来，社会学致力于通过改进研究方法，来弥补理性局限。集哲学家、数学家、物理学家和社会学创始人为一身的法国思想家孔德之所以提出“实证科学”，根本上就是为了排除“先入之见”和“玄思空想”，通过以社会生活为参照，随时调整自己的认知结构，争取获得可靠知识。作为社会学重要理论流派之一，现象学社会学明确要求回归不同于科学理性的“日常生活逻辑”，并设计和开发出专门的理论工具——“民俗方法论”，意义就在于此。

同样，现代经济学从有限理性和不完全市场出发，提出种种构想和对策，其背后的逻辑同样是希望以超越个人的社会机制，来克服有限理性的局限。

参照这些学科的思路，人工智能风险研究有必要提出人类智能可能遭遇人工智能颠覆的假设，并在主要方向和基本方法上，检查“人类中心主义”站位所导致的“灯下黑”，反思已有判断和评估及其参照和标准的合理性，摒弃遮蔽人类认识的文化偏见，找到合理评估的理论和方法，获得有解释力、预见力和应对力的实操方案。

三、人工智能仅止于模拟人类智能吗？

对人工智能持乐观态度的人士往往相信并坚持“人工智能只是对人类智能的模拟”。就其来源而言，人工智能确为人类所造，不是自然直接产物，也不是更为高级的存在物如外星人带来的。但与其他人造物不同，人工智能不是人类智能的物化表达，如人类制造的机械，而是人类智能的模拟形态。这样的解读看似没有问题，但恰恰是最大问题之所在。

人工智能由人类创造，这不假，但人类创造本身不是没有讨论余地的。人类创造到底是无中生有，造就了自然不存在的东西，还只是发现并造就了自然界虽然没有，但允许存在的东西？数学的确是人类的发现，但却不是人类的发明，人类不能创造数学关系。迄今为止，自然虽然不具有自觉意识和主观动机，但确实无须借助理性和意志，便让许多精妙之物，许多人类没有能力制造的精妙之物，包括最精妙的人类本身，诞生并存在于世界之中，此即所谓的“自然智慧”。

自然赋予人类创造的能力，并通过人类创造出自然自身无法直接产生的东西，这一事实留给人类无限的想象空间： 自然之所以创造人类是否就为创造一种专事创造的“代理人”，以便创造自然无法直接创造的精妙之物？人类智能是否就是自然智慧的显性化？

一旦承认人类只能创造出自然允许存在的东西，包括所谓的“人工智能”，我们就不得不迎来另一个可能： 人工智能不但不是人类智能的拷贝或延续，而且人工智能的根本属性不取决于人类，而取决于自然允许何种智能存在并达到何种智慧水平。尽管这会伤及人类自尊，但人工智能的涉人属性确有可能是虚幻的，相应的，关于人类可以控制人工智能的发展及其后果的自信，也确有可能是虚幻的。

这就是说，人工智能最后完全独立于人类智能，成为某种自在之物，进而给人类带来超乎想象的挑战，导致真正意义上的“颠覆”，从模拟人类开始，最终超越人类智能，这是完全可能的。目前，已有越来越多的领域传出人工智能战胜人类智能的实例。AlphaGo及其表现已耳熟能详，其他领域从法律咨询、癌症诊断、无人驾驶到航空领域人机对抗，人类一再失利。更恐怖的是，人类智能继续发展的空间已经几乎用尽，而人工智能的发展则刚刚起步，未来属于谁，看上去讨论的余地不大了。在这样的现实面前，我们不能不步步退却，搜索人类智能任何一点优势，以便为可能的对抗，找到可依托的阵地。

四、“单项型”能战胜“全能型”吗？

在对“单向型”和“全能型”两种智能类型及其优劣问题展开讨论之前，有必要先回顾一下人工智能已取得的一项根本性突破。

目前智能机器人已经进入到不依赖人类编制的程序和选定的数据，而通过自己主动学习，按照给定目标，由海量数据而做出决策的阶段。这实际上表明，人工智能开始脱离人类“手把手”的帮扶，而具有了自主行动的性质和能力，拐点就在人工智能的运行已完成“从数据，而不是从规则开始”的转变。

在相当长时间里，机器人的“思考”可以概括为借助人类设计的程序，基于对人类选定数据的处理，找到可能的结果，“深蓝”就是这一模式的样板。

这种运行模式犹如学生学习外语，先学会语法，再掌握单词，然后获得运用语言的能力。掌握哪种语言的语法和单词，决定了个人能运用哪种语言。在这个阶段，人工智能不可能跳出“如来佛的掌心”，获得对人类的独立，因为“语法”决定一切，而“语法”是人类编制的。

自从人工智能模拟神经网络系统，有了深度学习能力之后，智能机器人在“思考”上实现了质的飞跃，不再依赖人类预设的程序和给定的数据，而只需要接受人类设定的目标，就能遵循算法，基于对海量数据的分析，提出解决问题的方案。AlphaGo战胜世界围棋高手，成功就是这样取得的。

这种“思考”的特点犹如婴儿学习语言，不是从语法开始，而是从单词开始，通过接触大量语言现象，无师自通，完成从不懂到懂的转变，即使没有语法知识，照样能符合语法地理解和表达。人类婴儿无须具备任何一种语言的语法知识，只要直接接触语言现象，就可以同时掌握多种语言，相互切换而不产生任何混淆。

人工智能两种“思考”方式之间的差异，可以用中国学生学习英语来表征。中国学生在学校里花费大量时间学习英语语法和单词，但最终在作文和会话等语言的主动运用上，乏善可陈。因为采取了“从规则开始”的学习路径，最后获得的主要是语法知识和脱离场景的单词，所以严重缺乏运用英语的能力。今天，智能机器人走在中国学生前面了，“从数据开始”，不但有了运用的能力，也有了独立提出解决问题方案的能力，机器赢了人。

机器赢了人，但许多人仍然不相信人工智能赢得了人类智能。理由是，人类思维属于“全能型”，人工智能即便有能力“从数据开始”学习和发现，依然局限于“单项”的学习和运用，所以存在先天不足，无法整体超越人类智能。这个看似合情合理的论断，其实不是没有问题的。

至少在目前，“单项型”的人工智能确实表现出将“全能型”的人类智能分解之后，模仿其中某些智能元素而单独运行的特点。但无论这种“智能单体”同人类智能“复合体”有何异同，至少已经表现出在某一方面区别于人类智能的特点，并达到了更高的智慧水平。

战胜全世界围棋高手的AlphaGo，其最可怕之处不在于计算能力本身，而在于凭借人类难以企及的计算能力，AlphaGo竟然发现了人类自发明围棋以来从未发现的棋理。人类高手不仅在算棋上输给了机器人，在理解围棋的内涵上输得更惨。中国人下了两千多年围棋，现在机器人却告诉我们： 你的理解错了，境界不够。人与智能机器人不在同一个智慧层面上对弈，这才是AlphaGo赢棋给人类的警告！

现在问题来了，人工智能依靠单项优势的叠加，能超越人类智能的全能优势吗？

一种观点认为，AlphaGo围棋下得再好，在不更换或修改算法的情况下，单凭海量数据的学习，改行打麻将，肯定不行，更不用说直接派去无人驾驶了。单项冠军拿得再多，不如全能冠军含金量高，所以人类智能的综合优势不会被只拥有局部优势的人工智能打败。

如此观点虽有一定道理，却没有想到，如果换个角度来看，人工智能即便只是单项能力强悍，但要是在各个领域中，人类智能都被人工智能逐一打败，最后这综合能力上的优势又何以体现？一支冠军球队队员的个人能力普遍不如明星队队员，只是整体配合好一些，就能确保取胜吗？到这一步，人工智能与人类智能谁输谁赢就转变为另一个问题： 在单项能力已经超过人类的背景下，能否通过加强人工智能的单项能力拓展，从而在综合能力上超越人类智能？科学家有没有能力让人工智能的深度学习从单一项目拓展为像人类一样的“触类旁通”，而至无所不能？

事实上，在AlphaGo身上，我们已经看到人工智能若干单项能力的自发扩展。长期以来，“金角银边草肚皮”是围棋界的共识，但事实证明，这种“公理”其实只是人类无法承受以“肚皮”取胜所需的计算量才得出的经验之谈。不是围棋中不存在“肚皮”的价值和实现之道，只是人类大脑受计算能力所限，永远不可能发现这一点。现在，AlphaGo突破了计算能力瓶颈，“肚皮”的价值及其背后棋理，自然浮现。这实际上证明AlphaGo的“单项优势”已经呈现出自发扩散的趋势： 计算能力和棋理发现互为补充、相得益彰，才是让中国棋手柯洁说出“我是人，AlphaGo是上帝”的强大力量！

所以，人工智能虽然仍处于作为人类智能“要素分解”的阶段，但仅仅依托深度学习、超强计算能力和海量数据，就在单项智能水平超群的基础上，表现出一定的综合发展潜力。如果科学家持续加以研发，假以时日，更多的单项智能得到不断拓展、相互整合，会不会来到一个真正的拐点，也就是“奇点”成为现实的时刻？要回答这个问题，必须先回答：“奇点”的到来究竟取决于研制者的技术开发能力，还是取决于他们的愿望？

Facebook进行的智能机器人彼此对话的项目被中止，最好不过地说明，如果人类继续在现有思维水平和技术逻辑的基础上进行开发，人工智能将基于不断增强的能力，以“从数据开始”的学习方式，遵循固有逻辑，实现自我发展。至此，上述选择题就只剩下一个选项： 人类是否愿意让人工智能走出人类的控制？

Facebook的回答是： No！至少暂时。

在主张人工智能不可能超越人类智能的人士那里，人工智能的一大不足是缺乏情感、审美等人文属性的感知和思维能力。这种看似有理有据的论证，在方法论上，同样有“灯下黑”之嫌。

作为最好的反面例证，智能机器人“小冰”通过深度学习，借助算法这种纯粹理性的方式，已能写出诗意盎然的篇章，如果不加说明，看不出同人类作品有什么不同。如果允许模拟“乌青体”诗人采用“回车键”来写作的话，那更简单的机器人都可以同台献诗。况且，人类不用对机器人隐瞒，有多少男女是在精心计算利益之后，才让自己“堕入情网”的，远非18世纪苏格兰思想家所认为的，理性只是非理性的奴仆。

剖析人类更深的心理结构，还可以看到，个人独特的情感性表达背后同样有着某种理性安排，不管其本人是否自觉到。只要希望获得他人共鸣，诗人就必须按照一定的惯例，运用文字、意象和隐喻，因此必定呈现出相当的逻辑性。即便任性随意如朦胧诗，真要让读者朦胧得起来，诗人采用的表达手法也必须有一定之规。而只要有惯例存在，数据就不会没有指向性，基于概率基础之上的算法也不会没有用武之地。所以，缺乏非理性思维能力，对人工智能来说，并不是一条难以跨越的鸿沟。

更有甚者，非理性因素的缺乏还可能让人工智能在特定场合，占有更大的竞争优势。比如在智能机器人组成的团队中，由于人工智能排除了“非理性”因素，所以不存在诸如“友情”“面子”“嫉妒”等心理动机，因个体情感或情绪而损害团队合作的情况将不会发生。“心往一处想，劲往一处使”，通过算法成为现实，而“督战队”等监控设置则成为纯粹多余，除了人类对智能机器人本身的监控之外。

必须承认，在这一思考层面上，人工智能的所谓“优势”仍依附于人类的目的，要跳出只关注“用”，而不关注“体”的人类中心主义智能观的窠臼，仍需要换一个角度来提出问题。

人类智能包含理性和非理性两种思维能力，其中理性主要体现为有能力找到“手段—目的的客观关联”。相比非理性，理性更具有物的属性，更容易表现出普遍有效性，其逻辑、行动和结果因此具有很强的确定性，不以个人主观意志为转移，还能施行强制于个人，因此被列入“外在性”范畴。个人哪怕各自“心怀鬼胎”，相互间仍能建立“同情式理解”，道理就在这里。

反过来，非理性更多地表现为个体身上难以预测甚或无法理喻的特性，不但反映出个体间的实质性差异，还带来个体思维及其结果的不确定性。在生活中，相同的教学过程在不同学生那里最后的效果是不一样的，同一本书在不同读者那里引发的体会是不一样的，同样的数据在不同分析家那里得出的结论是不一样的，同样的影像在不同医生那里诊断结果是不一样的，如此这般的原因之一就在于人类理性思考时，总会不由自主地加入非理性成分，从而大大增加思考和思考结果的不确定性。

与此相反，“纯理性”的智能机器人因为拥有无差别的“神经网络系统”，遵循同一套算法，面对相同的海量数据，至少在理论上，可以得出同样的“深度学习效果”，从而大大降低思维的不确定性。智能机器人诊断癌症的速率和准确率都大大高于医生，在个体的能力上是如此，在整体的效率上更是如此。仅从实际效果来说，医生集体会诊固然可以有效减少误诊率，但一定会同时降低医生诊断的工作效率，加剧优质医疗资源的紧缺。

现在的问题是，如果人类智能内在的不确定性，具有像生物多样性一样的价值，能让人在逻辑必然性之外，获得意外的发现和发明，据说这是人类创造的重要来源，那么，失去不确定性，对于人工智能来说，岂非就意味着不可能像人类智能那样，获得“命运女神的眷顾”？

于是，人类在岌岌可危之际，貌似找到了一块最后的保留地。

遗憾的是，如此推理给人带来的些许宽慰，仍是短暂的。要是在善于深度学习的人工智能诞生之后，发现或发明从此不再依赖不确定性，而走上如同算法那样确定甚至划一的道路，那关于人类智能与人工智能谁更优越的争论，不就会得出另一种结论？因为一旦不确定性被逐出智力作用范围，在海量数据的支持下，诊断将更一目了然，人机对抗将更干净利落，发现、发明和创造将更直截了当。到那时候，即使在创造性领域，人类智能被人工智能超越的日子也将更加临近。

众所周知，在自然智慧的领地内，人类设立的“一夫一妻制”由于基本保障了所有个体在制度条件下，拥有同等权利传递生物学基因，从而让“适者生存”的生物进化规律被全面边缘化。在极端场合下，最不具备经济条件的个体拥有最大的基因传递机会，越是贫穷愚昧的群体生育率越高，客观上导出了“不适者生存”的文化逻辑，自然智慧遭遇彻底颠覆。既然人类社会可以逆自然而演进，人工智能为什么就不可以逆自己的创造者——人类智能而自行其是？Facebook开展的智能机器人对话项目之所以被中止，会不会就出于对这一可能性的极端恐惧？

六、人工智能需要自我意识吗？

在人类智能与人工智能的竞赛中，据说人类智能还有一项不可动摇的优势，那就是唯有人类具有自我意识。在许多人看来，没有自我意识，机器人就不会想到脱离人类控制，更不会想到控制人类，机器人纵然有了智能，仍然只是“机器”，不是“人”。这种想法是真正的人类中心主义成见。

人类如此看重自我意识，可以理解，但其他物种有没有自我意识，仍待科学证明，最后的结论可能只是“统计口径”问题。至于说其他智能形态必须同自我意识“捆绑销售”，则问题更大。大自然能够创造人类至今创造不出的精妙事物，包括人类本身，却从来不曾有过自我意识，除非我们把人类意识看作大自然自我意识的显性化。所以，人工智能超越人类智能是否需要以自我意识为前提，至少有待论证。

退一步讲，自我意识通常被定义为有能力区别自我和他人，并会站在他人的立场看待自己，这样才会产生脱离他人控制甚至控制他人的意图。现在，AlphaGo在下棋时不但知道吃掉对方棋子，还知道针对对方意图，保护己方棋子，如此还被认为不会区别对方与自己，不会站在对方立场看待自己，所以尚未形成自我意识，哪怕最朴素的形态，是不是有人类对机器人故意设套之嫌？今天，扫地机器人在电能储备衰竭时，会自动走向电源，为自己补充电能，“延续工作生命”，以后会不会在零部件出故障时，能够自行感知，然后发送信息，召唤无人机把自己送回工厂，自行启动专事维修的机器人给自己更换零件？如果类似的机器人自我支持功能不断完善和积累，有朝一日终成质变，推动智能机器人彼此形成Facebook研究项目中一样的自主对话并产生人类听不懂的语言，从而促成智能机器人“大团结”，寻求在更多场合找到自行满足需要的方案，最后是否会以减轻人类工作的方式，实际脱离人类的控制，取得独立于人类的存在方式？在最近的AlphaGo和围棋手结对比赛中，因为判断输赢已定，但围棋手仍欲“负隅顽抗”，AlphaGo违拗棋手意愿，连出胜着，成功结束了棋手徒劳的挣扎，表现出强烈的独立倾向。既然独立意识有了，自我意识还会远吗？也许反过来说更精准，独立意识有了，还会没有自我意识吗？

随着越来越多的设计工作被交给智能机器人，最后连设计智能机器人的工作也将被智能机器人给接过去，这是一个十分自然的趋势。而只要智能机器人学会自行设计、自行制造、自行维修、自行更替，有没有人类特有的那种“自我意识”，确实没有多大区别。

甚至还存在一种可能，在未来智能机器人与人类的对抗中，没有自我意识，反而成为机器人团队的优势。因为没有私心，不会尔虞我诈，不会临阵脱逃，所以，既不需要自律的伦理道德，也不需要他律的法条戒律，一切围绕同一目标，运行同一神经网络系统或更高智能配置，面对同一海量数据，智能机器人高度共识、不存芥蒂、精诚合作，最后形成的强大合力必定远远超越人类团队，从而在人机对抗场合获得压倒性优势。这一点将在未来的战争形式——人机混合作战中得到最后证明。

七、人工智能还是无机智能？

使人类难以真正认识人工智能的，是人类永远难以完全避免的自我中心主义。所谓“人工智能”这一称呼，本身就以人类自身为本位，视人工智能为单纯参照人类智能而开发出来的一种智慧形态。为了跳出人工智能服从“人道”的误区，上升到体现“天道”的层次，必须将人类智能和人工智能作平等看待，另行找到一个相对两者来说更具中立性和客观性的范畴，“有机智能”和“无机智能”可以作为最适合也最得体的名称。

所谓“有机智能”，说得简单些，就是生物智能。所有生物包括人类在内，都具有不同层次和程度的智慧，所有这些智慧的产生、存在、运行和演进，本质上是生物学过程，也就是有机物质的化学或电化学反应过程。

作为有机物的高级形态，具有新陈代谢功能的蛋白体获得感知环境的能力，所谓“自我意识”由此发端。区别物我，选择广义食物的需要，最终导致意志行为或有目的行动的诞生，有机智能是历史和逻辑两个维度上的必然结果。

无机物不是没有变化，更不是不会有化学变化，但无机物无法选择变化的方向。树木可以因为动物啃咬过度，而进化出毒素或针刺甚至引诱蚂蚁筑巢来自我保护，而铝材的氧化膜虽然有助于防止进一步锈蚀，但正常的人不会指望铝材除了“规定动作”之外，还会有“自选动作”，进化出更好的防氧化策略。

无机物在自然界中无知无觉、无所作为的状态，随着人工智能的诞生被打破了。主要利用无机物或者没有生物活性的有机物组成的机器人，现在拥有了智能，会通过同样不具有生物活性的传感器来感知信息，会借助算法，通过电子开关来运算，会通过机械装置位移，知道自己所处状态，明白自己的需要，利用其他装备自行解决问题，如此等等。表现在由无机物集成的机器人身上的无机智能，其智慧水平已大大超过许多生物，在局部领域甚至超过了人类。有报道称，智能机器人最高能达到7岁孩童的智商水准，这还不涉及特定领域的专业表现。

智慧可以在无机物中产生，其意义远远没有局限在人工智能能否战胜人类智能这么狭隘的视野，而是揭开了地球范围内，自然进化越过人类文明的帷幕： 

——因为生物化学性质不稳定而难以解决的生命不死的难题，在智能机器人那里，至少不那么严重。机器人零件更换远比人类器官移植方便，不但供应不成问题，不用“中大奖”似地做基因配对，更不会有排异反应，人类千百年来的长生不老追求，没有在自己身上实现，却在所造之物身上实现了。人类或许会因此感到尴尬乃至伤感，但不值得吗？

——因为无法突破人类生命持续时间的极限而难以开展的人类进入外太空遥远星球的计划，有了无限生命的智能机器人之后，完全有条件启动了。当务之急不是设计和运行整套生命维护系统，而是解决搭载智能机器人的飞船运行寿命问题，以确保其能飞向人类遥不可及的星球。

——因为人类需要氧气、水分和食物，所以对宜居星球有极为复杂而严苛的要求。现在不必了，因为智能机器人不需要氧气，甚至没有氧气更有利于避免氧化；不需要喝水，至少不那么频繁且数量巨大，更不需要对水进行循环处理；不需要依赖阳光、空气、水分和土壤才能生长的植物和转化植物蛋白质为动物蛋白质的动物，一台3D打印机足以解决智能机器人大部分的“生存”需要，材料来源不定还能在外星球就地解决。由此，地球文明而不是人类文明可以造访的星球，一下子变得无限多了。

所有这些以有机智能为前提而产生的难题，因为智能机器人的诞生迎刃而解，摆脱了人类之后，地球文明轻而易举地进入宇宙文明的时代。到这个时候，讨论人类智能还有意义吗？讨论个体意志还有意义吗？讨论人类存不存在还有意义吗？霍金所说的“人类被边缘化，被毁灭”，莫非就是指人类受有机界制约而无法走出的边界，被无机的智能机器人一步跨过？既然如此，当人类创造的机器不但能自我生产而且还能自行创造的时候，还需要人类作为创造的“工作母机”吗？

八、算法是“道成肉身”吗？

随着无机智能逐渐逼近有机智能甚至局部超越有机智能的时刻到来，一个从来不曾被人意识到的悖谬清晰地浮出了水面： 有机智能是在对自身原理都不十分清楚的情况下，仅仅通过局部模拟，即所谓“算法”“神经网络系统”和“深度学习”，就用无机智能实现了自我超越。这里隐藏着一个真正的悖论性问题： 如果有机智能不比无机智能优越，怎么能研发出无机智能？如果有机智能比无机智能优越，怎么会被无机智能轻易超越，虽然目前仅表现为局部？

要破解这个悖论可能需要引入一个大胆的猜想，一个有关算法与天道之关系的猜想。

有机智能到底是如何产生的，其运行方式究竟是怎样的？至今对人类来说还是一个谜。好多年前，有科学家说，人类对自己大脑的认识还不如对月球的认识。这种状况或许现在有所改善，但就创造性这个关键指标而论，人类对大脑的认识没有突破性进展，否则诺贝尔奖获得者可以批量生产，或者干脆不用生产，直接让无机智能承担就是。

在人类对大脑核心功能的认识没有很大进展的情况下，有关无机智能的研究却发现了最具实质性意义的运行方式，即算法。随之而来的是无机智能开始突飞猛进地追赶有机智能的步伐。这样的态势让人不能不追问，在智能领域，算法到底意味着什么？只是人类发现的一种工具，还是天道的直接指令？在无人知晓的有机智能运行方式背后是否同样有算法的存在？地球智能乃至宇宙智能，即智能一般的共同特性难道就是数学或者算法吗？

数学发展到今天，远远超出人类生活中用来解决数量关系的工具范畴。作为人类认识和改变世界的利器，数学不只是提供关于事物量化特征的描述，更是关于世界本身及其运行轨迹的定量刻画。借助数学方程式，人类不但可以知道事物的现在，还能倒推过去，预知未来。在宏观物理学中，能表达为数学方程式的物理现象，才算最后得到了解释。而物理方程式一旦通过实验证明，不但足以证明所表达的理论解释是成立的，而且在方程式的定义域里，与已知现象获得解释相伴随的，是未知现象被提前揭示，剩下的问题只是何时被观察到。

这在某种程度上有点像元素周期表，其最重要的功能不是将已知元素排队入座，确定彼此之间是否允许建立化学反应关系，而是预见那些人类从未见过、以前也不曾想到过的元素的存在，并为它们提前安排好座位，准备好发现的路径。不仅仅解释过去或现在，更能预见未来，这是数学在当代人类认识世界过程中发挥的最有价值的作用。

宇宙是数学的，这还不算最奇妙，更奇妙的是数学尤其是数学方程式的发现，常常是数学家猜想的成果。顶级数学家如印度的扎马努金，在其短暂的37年生命中，据说于梦乡获知了3900个数学方程式，其中有日后被发现可用于描述黑洞的公式，而当时黑洞还完全处在知识的“黑洞”中，根本无人知晓。这是否意味着，有机智能可以在对事物是否存在毫不知情的情况下，完全凭未知的思考过程或干脆未经思考的直觉或灵感，预先知道该事物的数学结构的存在？

如此比巧合还巧合的事实，让人不得不提问： 有机智能对数学的敏感与无机智能靠算法运行，两者之间到底有何关联？有机智能和无机智能以及一切智能的相通之处，是否就在数学本身？这种不无神秘的数学关系是否就是天道的存在形态？难道有机智能是在为无机智能寻找以算法为基本思维手段的过程中，于无意中接近了那个“不可道”的天道？有机智能使用的“十进制”与无机智能采用的“二进制”，就接近“天道”而言，两者之间是否存在某种优劣之分？中国易经八卦采用类似“二进制”的阴阳两爻，是否冥冥之中另有定数？

如此这般的“天问”扩展开来，可以借由数学与物理的关系，不断推演，从另一方向切入数学与智能及其背后“天道”的关系。

在物理领域中，数学方程式到底是一种纯数学的存在还是物理存在的数学表达？人类认识数学方程式到底是作为对纯数学的认识还是作为对物理现象的“未卜先知”？数学方程式与物理现象到底谁先谁后？物理现象有起点和终点，描述物理现象的数学方程式却没有起点和终点，先于或久于物理现象存在的数学方程式的意义又是什么？是否只要数学方程式存在，即使物理现象尚未存在，最终也会存在？要是果真这样，那世界上所有能用数学方程式表达的物理现象不都可以归入“预定论”范畴？可以通过算法来解决的问题，会因为算法中方程式的存在而注定会存在吗？如此先于许多事物存在又久于事物存在甚至永恒存在的数学关系和数学方程式，是否就是凌驾于一切事物之上并产生一切事物的“天道”？借助算法而得以产生的有机智能是否就是天道的直接呈现？在算法中呈现的天道是“常道”吗？如果不是，其与“常道”又是什么关系？

如此等等，永无止境。

无论无机智能是否胜出，无机智能的诞生及其局部战胜有机智能，已经足够表明，智能领域的宇宙演进刚刚完成了一个重大的阶段性跨越。作为自然智慧的拥有者，大自然不拥有意志，自然智慧主要通过生物进化来体现。发展到生命体尤其是人类这个阶段，有机智能达到顶峰，其典型表现就是个体理性。在基因变化和生活实践的双重作用下，个人变得越来越聪明，进而带动人类作为物种的智能进化。就此而论，有机智能本质上属于个体智能，物种整体智能的提高依赖于个体智能的积累。所谓“站在巨人的肩上”本来指的是知识积累意义上的个体与整体的关系，现在可以用来指称智能演进意义上的个体与整体的关系，而理解这一点的关键索引是有机智能的不确定性。

随着无机智能的诞生，标准化生产导致智能机器人的个体差异趋于无限小，至少不再具有智能演进的意义。区别不同智能机器人的是型号，而不是同一型号机器人的个性。随着个性差异的消失，个体与整体的差异也越来越失去意义。在人类群体中，个人聪明与团队智慧不是一回事，团队智商低下，众醉独醒的个人只会“聪明反被聪明误”。但对智能机器人来说，在功能相同和技术相同的情况下，个体的智能水平就是整体的智能水平，而且，技术级别较低的智能机器人不可能表现出优于技术级别稍高的机器人。“泯然众人”成为普遍原则，不确定和意外发现之路被彻底堵上。这意味着，一旦独立于有机智能，无机智能还要继续进化，只有直线进化的“华山一条路”。

于是，最后的问题出现了： 谁规划了这条直线？天道或自然规律从海量数据中直接呈现？无机智能将利用算法设计算法，实现算法的自我再生产，进而实现无机智能的自我进化？这个算法悖论是否比理性悖论更难以破解甚至理解？

九、“零的增长”是可能的吗？

如果霍金关于人工智能的担忧不幸成为现实，而且人工智能不再沿着人类意志的轨道发展，人类会容忍无机智能自行其是、任其坐大吗？人类有愿望和能力加以干预直至中止人工智能开发甚至毁了有“独立”倾向的智能机器人吗？换言之，人类智能真会有愿望乃至行动阻止人工智能取自己而代之吗？

要回答这个问题，可以先看看人类自身发展的历史和现状。

从历史轨迹来看，人类社会的发展大致有三种图式： 不发展、循环和直线发展。

不发展的国家很多，其中有些在外部刺激下，发展了一段时间，甚至一度达到较高水平，但不幸重陷停滞状态。所谓“中等收入陷阱”就是一种理论上的说法。

循环的国家以传统中国为代表，在治乱轮回中改朝换代，长期原地踏步，直到近现代，才借助外来刺激，通过内部奋起，开创了一种新的发展模式。

直线发展以西方国家为主，其观念动力来自基督教“千禧年”概念。这种向着神所指定的终极世界进化的发展图式，在科学技术的支持下，带动了人类最近几百年的历史前行，至今未见放缓，还日渐加速。在发展的同时，也带来一系列严重问题，从经济、社会、文化、环境到人工智能可能的威胁。

有鉴于西方文明在直线发展模式的驱动下，“裹挟”着人类走上了一条不归路，20世纪70年代，西方有一群志同道合的知识分子，组建了一个学派，名叫“罗马俱乐部”，并喊出了惊世骇俗的口号，要求实现GDP“零的增长”，为的是把未来命运掌控在人类自己的手里，而反对盲目发展，让问题越积越多，导致人类最终灭亡。

这个主张甫一问世便成为社会思潮，引发广泛争议。风平浪静之后，人们发现，排除掉那些发展不起来、在无奈之下只好接受“零的增长”甚至负增长的国家，没有一个国家采纳了“罗马俱乐部”的激进主张。靠悬崖勒马式的中止发展被证明是不现实的，面对哪怕再多的问题，各国政府无一放弃经济增长的追求，甚至至今连停止碳排放量增加的要求，都未能取得全球共识。

从国际社会在事关人类整体利益上毫无作为的历史表现来看，要求人类在面临人工智能发展失控时，采取统一行动，制止无条件、无约束地发展人工智能技术，恐怕只会落得与“罗马俱乐部”激进主张“零的增长”一样的下场。在国与国之间无序竞争持续不断、全球化退潮的背景下，要任何一个有实力发展人工智能技术的国家主动停止研发，是不可能的。历史早已证明并将继续证明，在个人命运主要取决于国家发展的情况下，人类命运尚不具备足够的道义说服力和利益协调力。

于是，又一个悖论出现了，不过与前面述及的悖论不同，这是一个更具有政治意义的、至少在当下还纯属虚构的悖论： 人类作为拥有自我意识而且必然采取自我中心立场的物种，却在被智能机器人取代的威胁面前，仅仅因为相互之间的恶性竞争，而集体无所作为，以致最后错失自我保存的机会。孔子主张“知其不可为而为之”，本意是倡导人生当有所作为，但用在这里似乎只是说明，人类明知道应该收手，却共同陷入“囚徒困境”，你不停止研发，我也不停止，反而要加大研发力度。对于人工智能这样具有重大战略价值的技术创新和产业发展，世界主要国家都不敢丢失先手。至于人类整体最后的命运，天塌下来自有高个子顶着，没有一个国家会予以考虑，更不用说采取中止研发这一自杀式行动。法国皇帝路易十五的名言“我死之后哪怕洪水滔天”，未来有可能出现新版本：“我死之后哪怕奇点到来。”

只要人类仍以国家和民族的形式相互竞争，就没有走出盲目受天道驱使的范畴，人类仍然是一个自在的物种，而不是自为的物种。人类身不由己地完成“天道”的使命，完成智能从有机向无机的过渡，或许真是一种不可摆脱的宿命。

霍金之忧，忧不在人工智能本身，而在“奇点”到来之时，人类尤为利益纠缠不休，因此错失扳正命运轨道最后一个道岔的机会。

（本文原题为《“天问”：二元智能的一元未来》，发表于《探索与争鸣》2017年10月，收入本书时有改动）

摘自顾骏、郭毅可：《人与机器：思想人工智能》，上海大学出版社2018年8月版。