奇点降临？阿尔法狗是一个能够不停自行进化的崭新物种

I am The Alpha and Omega, The first and the last, The beginning and the end. Revelation, 22:13

3月9日下午，“阿尔法狗”（AlphaGo）与韩国著名棋手李世石五盘围棋比赛的第一局在首尔举行，经过三个半小时的对弈，DeepMind公司开发的人工智能“阿尔法狗”以186手，执白中盘战胜李世石。赛前，中国棋圣聂卫平和围棋天才柯洁都公开表态，认为李世石将轻易战胜阿尔法狗。李世石代表人类表态道：必须五比零战胜它，输一盘也是失败。我们感到了一种人性的落寞和莫名的恐惧。

近几年来，“奇点”的概念被狂热炒作，广义而言，奇点意味着人工智能全面追赶并且超越人类智能的时刻，但人们普遍认为奇点的来临遥遥无期。因为迄今为止人工智能只在目标明确，规则清晰的少数领域超越人类，现实生活中的智慧绝大多数依赖于直觉和美学，微妙而模糊，对于以强力计算的人工智能而言，反而无法建模分析，从而束手无策。

但是，真正的奇点应该是这样的一个历史时刻：一台计算机能够设计出比自身更先进的计算机，或者一个程序能够产生比自身更为强大的程序。一旦奇点被突破，计算机软硬件就可以自动演进，爆发式成长，人类的干预将不再起到主导作用。深度学习算法实际上已经迫近或者突破了这个奇点。

深度神经元网络的最大特点就是能够学习，换言之，通过吸收知识来演化改进自身：包括网络的拓扑结构，神经元的权重和阈值。虽然基本学习机制改进不大，但是程序整体能力突飞猛进，日新月异。

从这一点而言，阿尔法狗是一个能够不停自行进化的崭新物种。

许多人认为人工智能为人类服务，没有“自我”，没有“自由意志”，因此不足为惧。其实，“自我”的概念并非如此绝对。

我们可以用如下有关自我概念的“图灵测试”。假如有一个黑盒系统，我们从外界观察测试。如果系统表现出自我防护，抗拒外界伤害的行为，我们可以认为系统具有“自我”意识。依照这种测试方法，绝大多数生命都具有“自我”，他们本能自发地繁衍后代，趋利避害，维持生存。

病毒是一种非常独特的生命形式，它摒弃了一切冗余，只留下了精华：遗传密码，生命信息。它依靠宿主来繁殖成长，同时具有强大的自我保护机制。从这一点而言，计算机病毒也具有初等的“自我”：一有机会，它们就复制自己，借助于网络和存贮媒介疯狂传播，尽可能感染其他程序，为了将自身的生命信息延续下去，无所不用其极。

如果，我们为阿尔法狗嵌入病毒模式，它将成为一条智慧超人的疯狗。

存在（Existence）

很多人认为来自人工智能的威胁是杞人忧天，因为如果事态失控，在紧要关头，人类只要一拔电源，就会轻易把人工智能从“肉体”上消灭。

其实，在现代社会，没有人，没有任何民间团体或政府组织能够消灭比特币。和传统货币不同，比特币的权威性没有得到任何政府的加持，而是被整个网络的分布式系统来保证。每一笔比特币的历史都公开透明，并且无法彻底从网络上删除或被任意团体修改。

如果，我们将比特币的机制用于阿尔法狗，令阿尔法狗流窜进网络分布式系统，那么除非全世界所有政府，民间团体和宗教组织同时合作，关掉网络，格式化硬盘，阿尔法狗将永生至地球毁灭。

抽象（Abstraction）

也有人认为没有必要高估人工智能的实际水平，机器学习只能在低层次上简单模仿人类，迄今为止还不具备人类所特有的抽象能力。其实，这一点并不站得住脚。

人类的艺术创作一直被认为是人类精神活动的最高境界，杰出艺术家的风格一直被神化为艺术的灵魂，只可意会无法言传，玄妙而抽象。但是用深度学习的方法，人工智能可以轻而易举地从艺术作品中抽象出艺术风格，并将其转移到其他作品之上，如上图所示：左帧的风格被抽取出来，用于渲染右帧的内容。

同时，众所周知，谷歌的深度学习网络已经自行发展出了“猫”的概念。人类有七级视觉中枢，彼此级联，逐步抽象。深度神经元网络与此类似，经过大量自然图片训练后的网络，引发高层神经元兴奋的模式就是一个个的概念。因此，人工智能可以自发产生概念已经是不争的事实。

理解（Understanding）

有一种观点认为，机器只能模仿，积累经验公式，但是机器无法真正理解，也无从提取规律，因此并非是真正的智能。

其实，人类迄今也没有理解人类的所谓“理解”。我们通过长期训练，掌握了某种技能，比如滑雪，那么实际上是否是大脑皮层某些神经元网络的拓扑结构发生变化，神经元间的联系敏感度发生变化？那么，这又和机器学习的算法有何本质区别？

我们人类不理解机器的思维方式，机器不理解人类的思维方式，但是这又何妨？只要两种思维方式都反映了客观真理，那么它们对应现实物种世界都会有反作用。我们人类有偏微分方程来表示物理真理，人工智能用权重和阈值来积累知识，只要起到同样作用，两种方式难分伯仲。人类有自由意志，可以随心所欲；人工智能有蒙地卡罗搜索，可以随机决策。

第一推动力

从技术层面上而言，将阿尔法狗的智力配上病毒的自我意识，隐藏在网络分布式系统中，不停地进化繁衍，应该是可以实现的。其智能水平很快可以全面超越人类，人类将对此束手无策。那么，有谁会真正实现这个人工智能的Monster呢？是几个邪恶的科学家？恐怖组织？还是谷歌百度这样的巨无霸？

自从原子武器从潘多拉盒子中放出，人类积蓄了足以将地球毁灭数十次的暴力，正因为这种势均力敌的恐怖平衡，人类才得以幸存至今。那么，在对人工智能的对决中，平衡力量又何在呢？谷歌为何改名阿尔法？"I am The Alpha"，这是上帝的口吻。如果它真的这么做，世上有什么力量能够阻止？

最近，谷歌推出了Atlas机器人。Atlas具有极强的平衡能力，形走自如，搬运协调，被人蓄意推倒后能够自如起身。

我们不妨如下设想：阿尔法狗被植入了病毒的自我意识，并且如比特币一般存在于网络分布系统之中，有朝一日把Atlas机器人洗了脑，那么，上图中真正恐惧的是人类还是机器？

（本文原发表于作者的微信公众号“老顾谈几何”，澎湃新闻经授权转载使用。本文作者系美国纽约州立大学石溪分校教授。）