探索与争鸣|人工智能在未来社会将有哪些风险与挑战

探索与争鸣杂志

2017-08-31 10:23 来源:澎湃新闻

字号
当前,人工智能浪潮风起云涌,AI时代已经成为现在进行时。就在近日,国务院印发《新一代人工智能发展规划》,将人工智能上升到国家战略高度,描绘出了中国人工智能发展的新蓝图。除了我国之外,国际社会也对人工智能给予了普遍关注,可以说发展人工智能已然成为了全球共识。但是,我们也清醒地认识到,人工智能在为这个时代注入发展新动能的同时,对就业、法律、政治、经济、伦理和安全等诸多领域也带来了新的挑战。
在人工智能“列车”滚滚驶来的今天,我们应当如何应对其带来的风险和机遇;人工智能的技术属性和社会属性如何实现融合;人工智能又会对未来社会造成怎样的冲击,这些都是亟需我们回答的问题。
2017年8月28日,由上海市社联《探索与争鸣》杂志社和华东政法大学政治学研究院共同主办的“人工智能与未来社会:趋势、风险与挑战”学术研讨会在上海社联大楼召开。来自国内知名高校和研究机构的近四十位专家学者以及业界代表齐聚一堂,针对人工智能的发展和应用,分别从技术、法律、政治、经济、人文等不同角度提出看法,展开热烈探讨。
“人工智能与未来社会:趋势、风险与挑战”学术研讨会现场。本文图片 探索与争鸣杂志微信公众号
本次会议共设有六个主题,采取主题发言和自由讨论等形式,对人工智能给未来社会带来的风险与挑战进行交流讨论。
一、人工智能对未来的颠覆性影响
中科院自动化所研究员、复杂系统管理与控制国家重点实验室主任王飞跃发言的题目是“智能科技与新轴心时代:未来的起源与目标”,他从宏观历史出发,分析人工智能的发展演变,辨析物理空间与网络空间的关联,并且对人工智能的未来充满期待。著名学者雅斯贝尔斯提出了“轴心时代”的概念,在公元前800到前200年期间,古代文明涌现出许多重要思想家,对文明发展起到至关重要的作用。
王教授认为,世界可分为三个部分:物理世界,心理世界以及人工智能(虚拟)世界。每个世界都要有自己的轴心时代,新的世界也要有它的轴心时代。雅斯贝尔斯所言为第一个。第二个轴心时代就是从文艺复兴一直到牛顿、爱因斯坦,代表着人类理性的觉醒。人工智能世界也要有自己的轴心时代,这个轴心时代就是从哥德尔开始。现在是哲学上的突破,再是科学上的突破,下面就要是技术上的突破。就人们普遍担忧的关于人工智能将取代人类工作的问题,王教授乐观指出,人们当前的工作正是依赖机器来提供的,人类向无用阶级转变其实是社会的进步。“无用之用,重用之基”(徐光启《几何原本》)。
上海交通大学科学史与科学文化研究院院长江晓原教授的发言,则对人工智能表示出明确的否定态度。他分别从近期、中期、远期谈了人工智能的风险,表达出忧患意识:“我认为我们正在玩一把非常危险的‘火’。”从近期来看,人工智能引起的大批失业问题,95%的人不工作,5%的人工作,这样造成的财富分配不均,引起社会不稳定;从中期来看,人工智能存在失控的可能,芯片的物理极限,不可拔掉的电源都会引起互联网和人工智能结合后的不可操控;从远期来看,人工智能的终极威胁即人类这个物种会在个体的体能和智能方面全面的衰落,把对世界的管理让给人工智能,它一定是认为把人类清除掉是最好的。”此外,江院长还指出,要考虑最根本的问题是我们为什么要发展人工智能,资本的推动作用显而易见,资本为了增值盲目且不计后果。
二、人工智能是人类的福音还是恶梦?
人工智能到底是造福全人类的利器,还是毁掉世界的终极恶魔?北京大学计算机系主任陈钟教授从自己的角度对此进行了一番解读。陈钟教授的演讲主题是“从人工智能本质看未来的发展”。他首先结合自身求学、工作的经历,分享自己关于计算机的观点与看法。然后,陈教授在演讲中依次展开自己关于人工智能的三个重要观点,即“人工智能本质是计算机科学分支”、“数据驱动导致人工智能发展起起落落”和“社会科学与现实的关系比以往更加紧密”。陈教授将理论与实务相结合,帮助大家更好地理解人工智能的本质与发展趋势。最后,他表达出自己关于人工智能的中庸态度,主张要对人工智能进行规制,促使其合规发展。
不同于前面几位理工科学者的讲述,中国社会科学院哲学所的段伟文研究员从哲学和人性入手,对人工智能的社会性进行思考。段伟文研究员具有深厚的哲学功底,他以人性为切入点来思考人工智能的危机和未来情境。段研究员指出,机器的使用最终都是与人的能动性有关,他崇尚一种慢科学,要更多地思考人性、伦理,审慎对待人工智能的发展。他的主要观点可以概括为五句话:一是人工智能的发展带来新的权利,二是数据框定时代、算法设定认知,三是人的机器化和机器的人化,四是智能延展认知与人工愚蠢,五是深度科技化(预防性原则和主动性原则)。
宽资本董事长、奇点大学投资人关新则从行业实际发展情况出发,直指人类对人工智能的恐惧之处——人是不可能阻挡技术的,技术本身就是洪水猛兽。而人类所害怕的是技术日新月异。他认为,我们今天应该把人工智能和科技革命当做完全不可阻挡的东西,至于人怎么应对,这是挑战人本身的智慧,而不是机器。
三、中国在人工智能时代会领跑世界吗?
有观点认为,人工智能的发展,为发展中的中国提供了“弯道超车”的良机。那么,世界范围内来看,AI的研发水平到了怎样的程度?人工智能的进步到了哪一个阶段?中国在这一研究领域是否占有一席之地?根据现在的研究情况,能否对未来的发展趋势进行预测?中国在人工智能时代是不是能够跑在世界前列?这些问题值得探讨。
上海交通大学电子信息学院的熊红凯教授首先做了题为“人工智能技术下对真理和生命的可解释性”的主题演讲。他回顾了人工智能从上世纪五十年代到现在的起起落落,认为人工智能发展中的不确定性和不可解释性是最大的威胁。熊红凯教授演讲之初就提出与人工智能紧密相关的机器学习、神经网络具有很大的不确定性,而人工智能的发展就要解决这些不确定性、不可解释性与因果性的问题。
他演讲的重点就是人工智能技术的安全性。人工智能的推动主体是企业与资本,其最大推动力不是算法而是数据,数据的使用就不可避免带来安全性问题。这也是美国大数据医疗一直进展缓慢的原因。一切技术都是以超越人自身为推动力,从这个角度来看,熊教授认为一些人称人工智能技术是洪水猛兽有一定道理。
上海社会科学院哲学所副所长成素梅研究员则对人工智能研究的范式转换和发展前景进行分析和展望。人工智能是计算机分支学科研究出来的,但是从学科性质上来讲,人工智能不是自然科学,人工智能属于技性科学,是科学与技术相互交叉的一个领域,一开始就具有跨学科性。它是要把科学的原理变成技术的实现,倒过来技术的实现又推动了科学原理的解释和发展。人工智能研究者一旦扬弃追求通用人工智能的范式,转向追求在具体领域的拓展应用,人工智能就会走出瓶颈,迎来新的发展高峰。
华东政法大学政治学研究院院长高奇琦教授也提出了重要观点,认为中国在人工智能时代有特殊的使命。高教授首先对比了中美两国的优势和劣势,认为中国的优势第一个在于庞大活跃的中国市场,这个市场规模是全球独一无二的;第二个是勤劳勇敢的中国人,让国外感到恐惧的24小时开店、周末不休息;第三,科研队伍和研究水平;第四是中国已经有了一个良好的发展基础。而最大的优势莫过于位置和文化。相比于西方,中国文化具有多元而开放的特点。
最后,高教授提出未来发展的四个“智”——第一,跨智,发挥媒体之间的技术优势;第二,众智,利用群体智能;第三,合智,人工智能和人类智能的合作;第四,善智,发展的目的是为了人类的公平正义。“AI就是“爱”,我们研究AI的目的就是让世界充满AI。”
四、人工智能对法律与政府的影响
法律与政府是公平公正的代名词,面对AI在社会众多领域的应用,法律和政府部门工作也在与人工智能接轨,在实践中让AI发挥更大的作用。
四川大学中国司法改革研究中心主任左卫民教授在法律实务领域具有一定建树,他着重从形而下审思人工智能与中国智慧司法的未来。他鲜明地指出AI与法律学者有一定差距,但法律界总体上对AI是相当认同的,上海、江苏以及浙江等地已经将大数据人工智能运用到审判中来,而案多人少的现实背景、对公正效率的需求也需要发展人工智能。左教授接下来向大家讲述法律界对人工智能的运用情况,他以国家开放司法审判书为例指出司法裁判引入大数据对于建构裁判标准具有重要的意义。当然,他也指出裁判文书的过度应用也存在问题,法律具有独特性,很多现实情况很少用到裁判文书。总而言之,左教授对人工智能在司法领域的应用充满信心。
“在我看来人工智能向法律提出的问题更具根本性。”上海交通大学凯原法学院郑戈教授列举了人工智能对法律职业和社会管理的种种挑战。郑戈教授主要以“电子人”为例探讨是否建构人工智能的法律人格。
他首先从欧洲关于人工智能的法律法规延伸开来,介绍阿西莫提出的机器人“三大律法”,然后详细列举人工智能给法律带来的问题与挑战。人工智能所涉及的伦理和法律问题是这个时代最关键的问题之一,第二个问题是它涉及现代法律体系的基础性概念和思维方式,第三个问题是数据的实际占有者与使用者之间的界限越来越难以判定,第四个问题是过错的判断越来越困难,第五个问题是过错与损害结果之间的因果关系越来越难以确定等。郑教授主张对人工智能进行合理的法律规制,需要法律人和科学家的深度合作。
华东师范大学政治学系吴冠军教授作为政治哲学研究者,着眼于未来社会秩序。吴冠军教授的演讲用人类学机器这个概念阐述自己对人工智能的理解。人类学机器是著名哲学家阿甘本提出的一个概念,他认为人类与动物以及其他事物之间存在分级制度,人与人工智能之间是一种机器关系,上下级的关系。吴教授指出人类学机器是基于人工智能的全新的物种,这个新物种会带来一系列伦理问题、逻辑关系问题,对现实世界产生颠覆性的影响。我们在关注人工智能发展的同时也要关注它的正当性。
上海社会科学院互联网研究中心执行主任惠志斌主要探究人工智能应用场景中的法律问题。他认为,人工智能能够联系大量的人、物,在这样一个联网的基础上产生大量的数据,数据通过智能化的算法,这个算法至少目前来看还是由人来设计,由人来去验证,去实施的算法,共同构造智能网络的应用场景,在各种各样的场景里面,医疗领域、环境领域,包括我们的生活等等各种场景里在应用,所以,在鼓励它发展的同时如何去规避危险,如何能按照人类所希望见到的“善智”这样一些方向发展,这是我们需要考虑的问题。还要考虑如何通过一些公共政策,如何通过法律,把它那些可能带来危害的风险点找到,进行规避。他认为,人工智能碰到的法律和经济问题,比如产权版权问题,变成具体服务和产品问题时的责任归属问题等等,要在基本安全的框架内,探讨人类和机器共同协作的方式,保持透明、开放,让人工智能产品在公众的监督之下,而不是随意设置。
上海交通大学凯原法学院杨力教授的主题演讲“司法大数据与人工智能的应用前沿”介绍了司法界AI应用的前景。他介绍了法律实务中大数据应用的四套大纲:第一套大纲是AI系统,所有人工智能依赖于数据驱动,在整个司法链条上做到数据驱动最底层工作,一定要把法院、检察院的相关数据打通,这一点非常关键;第二套是在审判环节,审判环节是整个法律中的中心工作。第三套是算钱算绩效,对每一个法官每年能受理多少案件等进行测算;第四套是模拟审判,希望通过三到五年,机器法官(现在还不敢称智能法官)能够承担法院的简单案件。
五、人工智能对经济、社会与传媒的影响
上海大学社会学系顾骏教授重点探讨了人工智能研究的“灯下黑”问题。他认为,以往的研究只是将人工智能与人类智能进行简单的比较,人类的自我中心主义让大多数研究者忽略了人类创造物的内在逻辑。他在演讲中主要提出了自己担忧的人工智能发展的八个问题,比如宇宙发展是否会终结人类,人工智能是否会超越人类,人类创造物是否有自主创造力以及机器人如果能够自我进化,那么进化的结果由谁来控制等。顾教授的演讲体现出强烈的忧思。最后,顾教授认为自己关于人工智能的研究只有问题,没有答案,需要更多的人去理性思考。
上海师范大学知识与价值科学研究所所长何云峰教授则持乐观态度,站在进化论视角看待人工智能。他认为,人工智能像人类一样,也是不断进化的。人类为弥补自身进化不足不断开发新的机器,所以说人工智能在很早之前就已经开始,这也可以运用康德的“先天知识何以可能”来论证。何教授对人工智能的发展同样充满自信,重要的问题不是人工智能会带来一些风险,人们在前进的过程中可以解决这些,问题的关键是人工智能大量的使用会导致人类进化危机,它比人类摆脱自身束缚更加可怕。何教授最后对人工智能发展做出乐观预测,人工智能越发展,人类从劳动中解放程度越高,人类将有更多时间来学习和提升自己,拥有更多发展机会。
复旦大学哲学学院徐英瑾教授演讲的主题聚焦于认知语言学与人工智能伦理学。他认为,在主流的人工智能伦理学研究中,很少有人意识到:将伦理规范的内容转化为机器编码的作业,在逻辑上必须预设一个好的语义学理论框架,而目前主流人工智能研究所采用的语义学基础理论却恰恰是有问题的。徐教授主张在人工智能与人工智能伦理学的研究中引入认知语言学的理论成果,并在此基础上,特别强调“身体图式”在伦理编码进程中所起到的基础性作用,必须严肃思考“怎样的外围设备才被允许与中央语义系统进行恒久的接驳”这一问题。
微软亚太科技有限公司副总裁王枫也参加了研讨会,他鲜明地提出:新科技应助力人工智能造福人类。第一,人工智能服务于人类,互联网和各种软件硬件都是由人制造,为人服务,这是前提。微软近期推出的盲人智能眼镜就是在这一前提下产生,帮助盲人实现以前无法做到的事情。第二,他强调,没有数据的人工智能是一个理论和空谈,数据的完整性、专业性和准确性是最基本的。弹性的云计算的应用使得人工智能不再局限与手机管家的简单问答。而与媒体合作过程中,可以看到,通过人工智能感知的技术可以保证视频内容合法合规。此外,微软最近也推出了新的应用——通过云计算和大数据,抓取照片上人的特点,进行人脸识别,用于找寻流失儿童等。王枫副总裁同时表示,人工智能的标准要依托于法律法规和整个地区国家的标准。
上海财经大学讲席教授、城市与区域科学学院副院长张学良教授,从经济学框架来分析人工智能的发展与经济学的未来。他认为经济学可以看作是在不确定的世界中找出确定的因素,经济学的研究将人工智能的发展看作要素驱动。第一,从供给与需求上来看,无论是人工智能和产品的出现,还是技术的发展,它所改变的形态是供给侧。第二,从成本与收益上来看,技术的成本我们是否能看到,它往前走一步投入多少成本,用经济规律讲是有约束条件的,企业家的投资一定要带来收益。它背后有一个成本与收益的法则。要用历史阶段性与连续性的眼光看待,让市场来发挥作用。第三,从政府与市场的角度看,政府要防止垄断,做好分配工作,利益共享,在人工智能时代找准自己的定位。第四,从中国与世界角度看,就业与劳动力市场、教育、文明、社会主要矛盾都是需要考虑的问题。
六、圆桌大讨论:人工智能会战胜人类吗?
在圆桌会议中,围绕本次研讨会主题,与会专家学者进行了热烈的自由讨论,纷纷提出独到的观点。
华东师范大学历史系王家范教授:今天的这个话题,我觉得有一个前提,毕竟是人在倡导人工智能,人是主体,既然能够倡导也应该能够控制。所谓的道义是什么呢,我认为它所倡导的倡导物本应该是用来帮助人类的,凡是不利于人类,危害人类的都不应该倡导。违反道德基本准则的就是危害人类的,反人类的。在欢呼进步的同时,有必要对后果进行认真的检讨。要认真思考的是不应该只关心利益,人文主义在科技里面应该占有主导地位。如果把史学看作一门人类理解自己的私密工艺——提炼人类的智慧,用来改善人类现在和未来的处境,这一类的史学工艺,人工智能做不了。搞史学的知道,任何一个有名的史学家,他只能做很少一部分,有多少人能把古今中外的文献都整合在一起?我不认同所谓的人类智慧终极论,我认为机器人永远不可能完全胜过人类的整体智慧。
上海政法学院文学与传媒学院副院长张永禄副教授:在人文科学里面,机器人写作要解决两大问题,要把认知语言学形式化。非线性的,非结构化的是不能表现出来的。目前最高级的(人工智能)是能写三千字以内的小说,我们知道最好的小说不是单一类型的。
河南大学博士后赵牧:许多人对人工智能可能带来灾难后果报有深深的恐惧。这些恐惧毫无疑问是站在人本主义的立场上的,但种种悲观论调却建立在对人和人类社会既有的经验和认识的基础上,并对人工智能的概念带有望文生义的理解。目前的人工智能,还不过是小部分地实现了人脑的功能模拟。人工智能离所谓的智还有着很长的路要走,但人文学的想象力却将它的自我发展想象为即将到来的现实,似乎人为自己的创造物所奴役已经迫在眉睫了。我们当然不能轻易地否定这种忧虑所包含的人文关怀,但它却在无远弗届地想象人工智能的自主性时,对人之为人的属性设定了一个不变的本质。退一万步讲,既便人工智能成为了无机智能而将来之人成为了它的奴役对象又怎样呢?当年没有走出森林的猴子对作为其进化物的人是没有报怨资格的,它们如果有反思能力的话,也只能“求诸己”,而没办法让人再变成猴子。
苏州大学凤凰传媒学院院长陈龙教授:我想从批判的视角来看一下人工智能它应用过程中的问题。讲危害和恐惧,为时尚早。首先人工智能发展到现在的状态,让人们产生了忧思,这本身就是现代性的一种表现,发展到极致状态的一种现象。我们知道人工智能现在的状态,未来的状态到底怎么样,它都是处在一个漫长的量变过程。最大的问题,是权力让步的风险问题。
厦门大学法学院郭春镇教授:人工智能和人类之间的关系,一个是人与人之间的关系,还有和商业之间的关系。它其实已经不光影响控制我们的行为了,而是公开的,可以得到我们的信息,政府知道我们这么多信息,商业知道我们这么多信息,这样的话我们怎么控制信息的边界?怎么让他们不滥用个人信息的利用?如何界定和控制这个边界,这个问题依然保留。
清华大学博士后曹渝:人工智能会怎么走,第一,不必恐惧,因为该来的还是要来的,我们不如齐心协力把人工智能孵化出来,第二,一定要警惕资本权力的界线。我们技术人是有理想的,不要认为这些IT工程师没有意识,人骨子里追求自由、平等、博爱,会超越一切。
(本文首发于《探索与争鸣》杂志微信公众号,澎湃新闻得到授权使用,内容有删节。)
责任编辑:梁佳澎湃新闻报料:4009-20-4009   澎湃新闻,未经授权不得转载
关键词 >>

相关推荐

评论(3)

热新闻

澎湃新闻APP下载

客户端下载

热话题

热门推荐

关于澎湃 在澎湃工作 联系我们 版权声明 澎湃广告 友情链接