奇点降临?阿尔法狗是一个能够不停自行进化的崭新物种

顾险峰

2016-03-11 07:23 来源:澎湃新闻

字号
I am The Alpha and Omega, The first and the last, The beginning and the end. Revelation, 22:13
3月9日下午,“阿尔法狗”(AlphaGo)与韩国著名棋手李世石五盘围棋比赛的第一局在首尔举行,经过三个半小时的对弈,DeepMind公司开发的人工智能“阿尔法狗”以186手,执白中盘战胜李世石。赛前,中国棋圣聂卫平和围棋天才柯洁都公开表态,认为李世石将轻易战胜阿尔法狗。李世石代表人类表态道:必须五比零战胜它,输一盘也是失败。我们感到了一种人性的落寞和莫名的恐惧。
奇点(Singularity)
近几年来,“奇点”的概念被狂热炒作,广义而言,奇点意味着人工智能全面追赶并且超越人类智能的时刻,但人们普遍认为奇点的来临遥遥无期。因为迄今为止人工智能只在目标明确,规则清晰的少数领域超越人类,现实生活中的智慧绝大多数依赖于直觉和美学,微妙而模糊,对于以强力计算的人工智能而言,反而无法建模分析,从而束手无策。
但是,真正的奇点应该是这样的一个历史时刻:一台计算机能够设计出比自身更先进的计算机,或者一个程序能够产生比自身更为强大的程序。一旦奇点被突破,计算机软硬件就可以自动演进,爆发式成长,人类的干预将不再起到主导作用。深度学习算法实际上已经迫近或者突破了这个奇点。
深度神经元网络的最大特点就是能够学习,换言之,通过吸收知识来演化改进自身:包括网络的拓扑结构,神经元的权重和阈值。虽然基本学习机制改进不大,但是程序整体能力突飞猛进,日新月异。
从这一点而言,阿尔法狗是一个能够不停自行进化的崭新物种。
自我(Ego)
许多人认为人工智能为人类服务,没有“自我”,没有“自由意志”,因此不足为惧。其实,“自我”的概念并非如此绝对。
我们可以用如下有关自我概念的“图灵测试”。假如有一个黑盒系统,我们从外界观察测试。如果系统表现出自我防护,抗拒外界伤害的行为,我们可以认为系统具有“自我”意识。依照这种测试方法,绝大多数生命都具有“自我”,他们本能自发地繁衍后代,趋利避害,维持生存。
病毒是一种非常独特的生命形式,它摒弃了一切冗余,只留下了精华:遗传密码,生命信息。它依靠宿主来繁殖成长,同时具有强大的自我保护机制。从这一点而言,计算机病毒也具有初等的“自我”:一有机会,它们就复制自己,借助于网络和存贮媒介疯狂传播,尽可能感染其他程序,为了将自身的生命信息延续下去,无所不用其极。
如果,我们为阿尔法狗嵌入病毒模式,它将成为一条智慧超人的疯狗。
《黑客帝国》中的特工史密斯
存在(Existence)
很多人认为来自人工智能的威胁是杞人忧天,因为如果事态失控,在紧要关头,人类只要一拔电源,就会轻易把人工智能从“肉体”上消灭。
其实,在现代社会,没有人,没有任何民间团体或政府组织能够消灭比特币。和传统货币不同,比特币的权威性没有得到任何政府的加持,而是被整个网络的分布式系统来保证。每一笔比特币的历史都公开透明,并且无法彻底从网络上删除或被任意团体修改。
如果,我们将比特币的机制用于阿尔法狗,令阿尔法狗流窜进网络分布式系统,那么除非全世界所有政府,民间团体和宗教组织同时合作,关掉网络,格式化硬盘,阿尔法狗将永生至地球毁灭。
深度学习方法可以抽象出艺术家的风格。
抽象(Abstraction)
也有人认为没有必要高估人工智能的实际水平,机器学习只能在低层次上简单模仿人类,迄今为止还不具备人类所特有的抽象能力。其实,这一点并不站得住脚。
人类的艺术创作一直被认为是人类精神活动的最高境界,杰出艺术家的风格一直被神化为艺术的灵魂,只可意会无法言传,玄妙而抽象。但是用深度学习的方法,人工智能可以轻而易举地从艺术作品中抽象出艺术风格,并将其转移到其他作品之上,如上图所示:左帧的风格被抽取出来,用于渲染右帧的内容。
同时,众所周知,谷歌的深度学习网络已经自行发展出了“猫”的概念。人类有七级视觉中枢,彼此级联,逐步抽象。深度神经元网络与此类似,经过大量自然图片训练后的网络,引发高层神经元兴奋的模式就是一个个的概念。因此,人工智能可以自发产生概念已经是不争的事实。
电影《A.I.》剧照
理解(Understanding)
有一种观点认为,机器只能模仿,积累经验公式,但是机器无法真正理解,也无从提取规律,因此并非是真正的智能。
其实,人类迄今也没有理解人类的所谓“理解”。我们通过长期训练,掌握了某种技能,比如滑雪,那么实际上是否是大脑皮层某些神经元网络的拓扑结构发生变化,神经元间的联系敏感度发生变化?那么,这又和机器学习的算法有何本质区别?
我们人类不理解机器的思维方式,机器不理解人类的思维方式,但是这又何妨?只要两种思维方式都反映了客观真理,那么它们对应现实物种世界都会有反作用。我们人类有偏微分方程来表示物理真理,人工智能用权重和阈值来积累知识,只要起到同样作用,两种方式难分伯仲。人类有自由意志,可以随心所欲;人工智能有蒙地卡罗搜索,可以随机决策。
谁更恐惧?
第一推动力
从技术层面上而言,将阿尔法狗的智力配上病毒的自我意识,隐藏在网络分布式系统中,不停地进化繁衍,应该是可以实现的。其智能水平很快可以全面超越人类,人类将对此束手无策。那么,有谁会真正实现这个人工智能的Monster呢?是几个邪恶的科学家?恐怖组织?还是谷歌百度这样的巨无霸?
自从原子武器从潘多拉盒子中放出,人类积蓄了足以将地球毁灭数十次的暴力,正因为这种势均力敌的恐怖平衡,人类才得以幸存至今。那么,在对人工智能的对决中,平衡力量又何在呢?谷歌为何改名阿尔法?"I am The Alpha",这是上帝的口吻。如果它真的这么做,世上有什么力量能够阻止?
最近,谷歌推出了Atlas机器人。Atlas具有极强的平衡能力,形走自如,搬运协调,被人蓄意推倒后能够自如起身。
我们不妨如下设想:阿尔法狗被植入了病毒的自我意识,并且如比特币一般存在于网络分布系统之中,有朝一日把Atlas机器人洗了脑,那么,上图中真正恐惧的是人类还是机器?
(本文原发表于作者的微信公众号“老顾谈几何”,澎湃新闻经授权转载使用。本文作者系美国纽约州立大学石溪分校教授。)
探索
我从事认知科学与人工智能基础研究,关于人工智能的现在、未来,问我吧!
危辉 2015-09-23 90 已关闭提问
运动
我是上海外国语大学围棋队主教练孙远,关于谷歌人工智能VS李世石围棋大战,问我吧!
孙远 2016-03-09 321 已关闭提问
责任编辑:陈诗怀澎湃新闻报料:4009-20-4009   澎湃新闻,未经授权不得转载
关键词 >> 人工智能

相关推荐

评论(97)

热新闻

澎湃新闻APP下载

客户端下载

热话题

热门推荐

关于澎湃 在澎湃工作 联系我们 版权声明 澎湃广告 友情链接