探索与争鸣|顾骏:走出人工智能前瞻研究的灯下黑

顾骏/上海大学社会学系教授

2017-09-05 14:36

字号
顾骏 微信公众号:探索与争鸣杂志 资料图
在讨论人工智能的时候,我们总是对人工智能与人类智能做简单比较。包括今天,我们仍然在争论人工智能有没有价值观,是不是能压迫人。其实这些话题没有意义,因为背后都是说人工智能是一种拟人的智能。如果不拟人,二者是平行的或者互不相关的,人工智能为什么要有人的那些特性呢?这里要谈八个问题。
第一,宇宙进化会终结于人类吗?我们都知道宇宙爆炸时是没有人类的,走着走着人类来了。是不是宇宙就是两个阶段,一个前人类阶段,一个人类阶段?如果谁能够证明宇宙就是两个阶段,那我们就不用去考虑人工智能会不会取代人类。如果还存在着第三个阶段——后人类阶段,谁会成为人类的终结者?人类终结者,我算一算有三种可能,一种是自然灾害,比如说小行星撞击地球;第二种是人自作孽不可活,发生一场核大战世界都没了;还有一种可能就是被后来者驱赶。前两种都不在今天的讨论范围内,我们就讨论第三种,后来者应该具有哪一种能力或者属性是人类最害怕的?我算来算去,现在比人力气大的、跑的快的、看的远的、听的远的、人看不见它都能看见的,这些能力早就有了,但还不足以颠覆人类,超越人类,唯一有一种可能,那就是智能。
第二,如果可能超越人类的是智能,那宇宙的智慧会以人类智能为终极形态吗?说到底宇宙是有智慧的,我们人类本身就是宇宙产生的结果,宇宙产生了各种条件,让我们这么精妙的人得以产生。现在宇宙智慧是否到了人类智能,后面会不会有更高级的?
第三、更高级的形态是由人类创造的还是人类不断进化而来的?如果是人类不断进化而来的,那又是前面讲的,宇宙是否就有两个阶段?要是有取代的话又会怎么取代呢?会不会就是今天我们叫的AI来取代人类?如果真的是AI取代人类,以后人类许多解决不了的问题都解决了,比如说长命百岁的事情,机器比人类容易长命百岁。我们到别的星球去太远了,人类寿命抗不住;我们想移居一个星球,人类去不了,那边空气也没有,水份也没有。机器人就没有关系,所以我们面临的很多人类无法克服的困难,机器人都能克服。如果后来者不是由自然直接进化而来的,是通过人类间接演化而来的,那就是说后来的时代就由人类这个时代变化过来,如果要变化过来的话,我们今天就是在创造条件,让这个时代来得早一点。
第四,如果更高级的形态由人类创造而来,这个后来者与人类又是什么关系?是人类创造的,那么简单归结为人造物,还是人类的平行物或人类的超越物?过去我们搞那么多的机器都是人类的创造物,因为机器自己没有创造能力,可是如果有了创造力呢?我对AlphaGo的评价绝对不是说它赢了人,而是它有超越人类的计算能力,最后竟然发现了我们围棋里的大漏洞,人类为什么发现不了,因为我们计算能力不行,所以它是通过计算能力发现了人类发现不了的东西,这是可怕的地方,所以这样的东西是人类的创造物还是人类的平行物、人类的超越物,这很难说。
第五,如果人工智能是人类超越物,还能以人类为参照来衡量和要求吗?我们今天对人工智能的理解更有问题,好像一步一步走过来全是模拟人的,但是我们已经从符号主义的,用理性逻辑的方式来研究算法,研究今天人类怎么理性思考的,让机器人去模拟,我们模拟人是怎么来的。如果机器人也开始通过自我适应来进化的话,谁能控制进化的结果是什么?这就是个大问题了。所以到这份上,人工智能叫人工智能就有点不妥当了,我们宁可把它叫做机器智能,或者在文章里面直接叫无机智能。今天我们的智能都是有机智能,而我们用的AI是通过无机物形成的,如果无机智能真的形成的话,一定是超越了有机智能的。自我意识就是对自己在世界上短暂的觉悟,AI生命都没有,所以打仗的时候比人勇敢,不会死就不存在怕死的问题。
第六,如果机器智能或者无机智能超越人类,那人类还能控制它吗?其他力气比人大的,速度比人快的还是被人控制。如果超过人了人拿什么东西去控制它?法律管来管去就管两种能力,一种是暴力,一种是狡诈,暴力就是你不能用枪支,狡诈就是你不能欺骗。
第七,如果控制不了,人类能去控制自己不去控制和开发机器智能吗?我们立法规定哪些研究是不可能做的,实在要做的话就关起来,再不行的话就枪毙,但是今天科学家的好奇心控制得住吗?企业家的利益心控制得住吗?
第八,如果人类控制不了机器智能,也控制不了自己去开发机器智能,那人类的未来又当如何呢?我们看的是苗头,今天的苗头就是,人类在过去认为自己是万物之灵的一点上已经被超越了,不要告诉自己人工智能还很弱,它在很多方面已经超越人类,而且人工智能相互之间能够产生自己明白而人类不明白的语言,所以这样的迹象如果还不足以引起我们的警觉,那这个未来就很难说了。我最后说,我这儿只有问题没有答案,答案在每个人的内心之中,在人类的集体自觉之中,也在人类的宿命之中。
(本文为顾骏在2017年8月28日由上海市社联《探索与争鸣》杂志社和华东政法大学政治学研究院共同主办的“人工智能与未来社会:趋势、风险与挑战”学术研讨会上的主题发言,经本人整理。首发微信公号:tansuoyuzhengming,澎湃新闻经授权刊发)
责任编辑:田春玲澎湃新闻报料:4009-20-4009   澎湃新闻,未经授权不得转载
关键词 >> 人工智能,进化,机器智能,

相关推荐

评论(9)

热新闻

澎湃新闻APP下载

客户端下载

热话题

热门推荐

关于澎湃 在澎湃工作 联系我们 版权声明 澎湃广告 友情链接