“奇点时刻”的恐惧与希望——兼回应《至善与时间》

陶力行

2019-01-19 09:32 来源:澎湃新闻

字号
以前每次出门最大问题就是要花费大量时间找公交卡找零钱,现在只需带着手机用支付宝一刷到底就好,因为二维码技术将手机应用与交通服务联系在了一起。事实上,除了交通,包括生活缴费和上医院挂号等操作都可通过以上这种方式完成。公共服务电子化方面,杭州一直以来都走在全国前沿,因为中国最大的电子商务公司在杭州,有本地优势,当政府与企业相互合作,利用人工智能和大数据方面的技术发展,很多壁垒能被消除,许多琐碎的人力操作能被转化成可复制的电子机器人操作。去年四月,一场关于“数字中国”的建设峰会在福州召开,大会主旨就是关于“如何利用数字化技术推动中国未来发展”。在此之后,各地方政府的决策者也宣布要加速建设“数字政府”,将更多的公共服务通过推动数字技术来升级。相信在未来,“杭州案例”会在全国范围内复制。这些“进步”迹象似乎在印证一些观察家的看法:第四次工业革命正在发生。
对乐观主义者而言,这场革命伟大且美好,因为科技发展将进一步增强人类驯服自然的能力,随着数字化程度的加深,人类需求将在更微观的层面上被知晓和被满足。但悲观主义者则提出反面意见:革命未必会如想象中的那般美好。浙江大学哲学教授包利民在其所著的《至善与时间》一书中指出,用人造力量克服自然限制是现代社会文化的一大主旨,虽然科技发展帮助人类实现了物质上的非凡成就,并且在极大程度上改善了人类的生存境况,但是它也滋生出了人类的道德自满,让人误以为在技术的加持下,人身上那种作为动物性特征的自然欲望就会变得全然合理且正当。
包利民借美国未来学家库兹韦尔提出的“奇点时刻”概念来指称当下这个“技术飞跃”的时代,认为近年来的技术发展——尤其是人工智能和神经科学等领域的推陈出新——已经远远超出了人类的把控能力,如果不保持一定警惕与反思,人类将丧失对于生命的敬畏之心,不再有任何伦理事业上的追求,届时,一个已经深陷“商品拜物教”的世界将不得不遭受更沉重的异化。乐观主义者对这样的担忧不以为然,他们畅想并相信,一旦等到人工智能可以全面取代人力以及人类可以利用神经科学进行人性改造的时候,在终极层面的人类解放将得以实现。虽然乐观主义者和悲观主义者的态度截然相反,但他们在一定程度上都接受了技术拥有无限力量这一假设以及历史的线性史观,但问题是,技术真能发展到如此强大以至于全面塑造未来吗?我们需要理解技术。
什么是技术
对于当下技术发展的阐释,许多学者会将时空叙事延伸至十七、十八世纪的西欧,因为今天的物质成就普遍被认为是由当时发生在西欧的工业革命所造成的长时段效果。但除了“工业革命”以外,关于十七、十八世纪的历史还有另一套被称为“启蒙时代”的宏观叙事,因为当时的科学发展在知识阶层中祛魅了“人是上帝附属物”这一观念,让他们相信人是可以通过理性来把握世界的独立存在者。两套叙事并行有效,这意味技术和文明之间有着难以分割的共生关系,换句话说,理解技术就是理解技术对于文明或人类社会的意义。不过值得提醒的是,虽然技术作为一支影响文明的变量直到十七、十八世纪才在宏观层面显现可见,但两者的关系在古希腊人那里就已被阐明。
在对话录《普罗泰戈拉篇》中,柏拉图借普罗泰戈拉之口曾讲过一个有关“技术起源”的神话故事:诸神最初用水和土按照不同比例制造了各种生物,其中也包括人。但这些生物无法直接被安排进入世界,因为他们没有任何力量以维持生存,于是诸神委派厄庇墨透斯和普罗米修斯赶紧去武装一下这些生物。厄庇墨透斯自告奋勇地对普罗米修斯说,“我来干,你来监督”。在征得普罗米修斯的同意后,他给某些动物分配了力量,给某些动物分配了速度,将会飞的能力和藏身于地底的能力安排给了不同的小动物,至于那些大动物,他则给予他们坚硬的体魄,整个分配方式遵照补偿原则。但厄庇墨透斯干活很粗心,忘了给人分配任何技能。普罗米修斯来检查的时候发现光着身子的人类没有任何装备,而此时指定人出世的时间已到,于是只能从赫淮斯托斯和雅典娜那里偷来各种技艺,以及最重要的“火”,因为如果没有火,这些技艺就无法被施展。
德国哲学家克劳斯·艾尔拉赫(Klaus Erlach)在撰写《技术伦理学手册》中有关“古希腊技术哲学”的词条时指出,柏拉图在这里提供了一种文明产生的理论。“文明之所以成为必要,是因为人的身体有明显缺陷,而技术的制成品恰恰是保障人在生存斗争中得以幸存的条件”。艾尔拉赫对这则神话的解读不仅为技术产生提供了社会学层面的机制性解释,还为技术发明提供了正当性辩护,因为这种说法承认人的脆弱性,即人是匮乏不完满的物种,而技术的意义在于他能补足人类自身的匮乏,正如亚里士多德在《物理学》中所指出的那样,技术是一种能够完成自然无法完成之事的人造物。在这个意义上,柏拉图揭示了技术的工具属性(instrumentality)。
但技术并非没有代价,要知道,普罗米修斯赠予人类的火种是偷来的。赫昔俄德在《神谱》中讲过,在众神会议上,宙斯曾答应把火种交给普罗米修斯,但前提是人类向他献祭一头牛。普罗米修斯把给宙斯的牛一分为二,一半是生的牛肉,但没有牛皮,另一半是用牛皮包的骨头,不过浇上了香牛油加以伪装,他希望借此蒙混过关,但伎俩最终被宙斯识破。一气之下的宙斯拒绝给普罗米修斯火种,逼得普罗米修斯选择去偷。但盗火一事后来被宙斯发现,宙斯决意惩罚犯了天规的普罗米修斯,除非他肯道歉。但拒不认错的普罗米修斯“宣布自己无罪”,于是宙斯派天神用铁链将其锁于高加索山的悬崖峭壁之上,令其经受烈日暴雨的折磨。
技术最早垄断在诸神手中,普罗米修斯将技术扩散至人间显然得罪了宙斯。但宙斯的愤怒并非豪无道理。技术是好,但人类凭什么随随便便就能得到呢?技术能做自然不可完成之事,但如果缺乏德性的人掌握了技术,难道他不会肆无忌惮的作乱吗?普罗米修斯认为自己的做法是对人类好,但人类会真的因此就好吗?普罗米修斯难道没有听说过“资源诅咒吗?一个国家因为某种过度发达的资源而对这种资源产生强依赖时,他就会忽视对于自身的改进,一旦外部环境发生突如其来的变化,自己就会落入不可挽救的境地。根据古希腊人所流传下来的神话可知,当人类拥有了普罗米修斯所赐予的技术后,立马就陷入了无休止的斗争状态。
宙斯的惩罚揭开了技术的第二重属性,即生产性(productivity)。生产性与工具性的区别在于,后者意义上的技术只发挥杠杆功能,即只能进行大小程度上的切换,但前者意义上的技术却能发挥方向盘功能,它能制造好坏。大小与好坏都是形容词,大小属于描述性范畴/事实性范畴,而好坏属于评价性范畴/价值型范畴,只有当技术介入社会时,我们的讨论才会牵涉价值判断,或者说,产生伦理向度,因为伦理是社会的属性。
技术与伦理
虽然技术是无差异的,但人是有差异的,相同的技术到了不同人的手里,就会产生截然不同的效果。取火术落在善良的家庭主妇手里,换来的是美好饭菜,可到了懒汉手里,就会变为偷盗工具。换言之,正是因为技术的生产属性才将不确定性注入了人类社会,从而使得技术本身成为了一道伦理难题。但这道难题一直被现代人忽视,直到二战结束后才被历史学家、社会学家和哲学家正式摆上台面,因为二十世纪发生的纳粹大屠杀、切尔诺贝利核泄露以及乌托邦实验失败等事件给了人类沉痛的教训。部分人文主义理论家认为,这些不幸案例正是自启蒙时代所形成的理性主义精神不断渗透的结果,因为自那时起,人类开始进入盲目乐观的阶段。对于这样一种观点,从技术的角度可以做出两种解读:
第一种解读是,启蒙时代的科学成就祛魅了宗教意识形态,营造了人类对自我进行高度肯定的话语环境,让人以为自己可以不受过往观念与习俗的约束。但这种高度肯定的话语错误地假定每个人都具备相同的理性运用能力,当自主性权利被无差别、平等地赐予每一个人的时候,一些不具备实践理性能力的人也被认为可以做出自主性决策,这时候,社会的风险就叠加了起来。一旦技术落到那些不合时宜之人的手中时,技术就遭到了滥用,而二十世纪的灾难正好印证了这一点;
第二种解读是,启蒙时代的科学成就放大了技术的力量,让人以为人类可以通过技术对自身实现理性化改造,即通过工程式的手段创造出一个更有秩序——也是更美好——的社会。但是,人类社会是有机体而非机器,两者的区别在于,前者是一个简单系统,其构造清晰,有明确的功能指向,运作单位是步骤(steps),工程师对机器的运作结果可以做出较为准确的预期,但有机体是一个复杂系统,内部同时叠加多重功能,其运作单位是行动(actions),由于行动是多层次发生且会相互影响,所以社会运作的实际结果往往和政策学家的预测有着较大出入。二十世纪之所以会有这么多乌托邦实验,正是源于政治精英们对社会改造术的高估以及对社会复杂性的低估。
以上两种解读分别从技术的使用者和技术的被使用者角度对技术的使用提出了反思,就这点而言,两种观点都是有理的,因为如上所说,只有将人的涉入(human involvement)设为变量来考察,技术才会被赋予价值含义。也因此,技术带来的风险问题,与其说是技术的问题,不如说是人的问题。厄庇墨透斯在给动物分配才能时遵循的是基于差异的补偿原则,但普罗米修斯给人类火种时,却没有考虑过人是一种什么样的生物,他无差别地将技艺赠予所有人。缺乏使用技艺的人一旦拥有技艺,最有可能的情况就是滥用,所以将导致人类混乱的责任归咎于普罗米修斯毫无问题。
但是,以上两种解读也都有相同问题。它们都采取了过于简单的还原论叙事,以至于容易让人产生矫枉过正的认识论,即全盘否定理性主义精神以及技术的应用。从量化的指标看,理性主义精神和技术的发展是值得充分肯定的,因为人类在过去三百年创造的物质成就要远远超过在此之前的历史总和,无论是人口体量、人均寿命还是卫生安全等方面,目前状态都已经达到了人类历史上前所未有的高度。其次,简单还原论容易让人忽视历史变迁中的复杂细节。技术的发展过程并非一路到底,任何一种技术都是伴随社会演进逐渐累进成型的,而任何一种灾难的发生也都有诸多原因,即便技术滥用的情况常有发生,但将所有案例置于整个人类历史下来考察,未必会显示出统计学上的意义,简单粗暴地把责任全都赖给理性主义精神和特定技术只不过是给当事人和当事机构免责的说法。
既然如此,那么在面对“第四次工业革命”时,我们应该采取何种态度呢?
恐惧?亦或者是,希望?
乐观主义者和悲观主义者都相信人工智能技术和神经科学技术会重塑人类的未来,虽然价值判断不一,但他们都高估了技术的能力以及低估了人类社会的复杂性,从而在展开各自的叙事时,不经意地嵌入了自己的线性史观,区别在于,乐观主义者的史观是进步史观,悲观主义者的史观是退步史观。
人类社会有着复杂的演化机制,演化的发生是从一个阶段过渡到下一个阶段,然后再从下一个阶段过渡到下下个阶段,意思是说,对第四次工业革命阐释,需要把第三次工业革命作为叙事起点,对第三次工业革命阐释,需要把第二次工业革命作为叙事起点,如果忽视中间两次工业革命,直接在叙事中尝试将第四次工业革命与第一次工业革命联系在一起,会发现毫无意义,因为中间的因果链完全建立不起来。反过来说,我们也不可能站在第四次工业革命的高度对人类的终极命运下一个判断,顶多只是基于当下条件对短期未来进行某种合乎逻辑的猜想,因为历史只有基于短时段的观察才会呈现出线性,从现在到终点,中间有无数个我们想不到的结点存在。即便是科幻作家,也只能基于当下科技条件的最大可能性建立虚构叙事,否则就会被读者斥为“毫无逻辑”。线性史观论者正是因为犯了这样一个认知谬误,所以才会假定当下是“奇点时刻”。
毫无疑问,过度相信人类理性以及过度低估人类社会的复杂性确实会带来灾难,但忽视人类理性以及建立在理性主义基础上的人类改良主义也会给人类造成无尽的历史包袱。要问我支不支持数字中国以及数字政府的建设,我当然是支持的;要问我看不看好他们的未来,我则采取谨慎的乐观态度,即有条件的信任。
马克思在考察人类历史发展进程时,曾提出过“生产关系决定生产力”这一命题。这里的生产关系指的是人们在从事生产活动时所形成的社会关系,包括生产资料的归属、人与人之间的协作方式以及产品的分配制度等。在封建时代,大多数个体以农奴的形式存在,他们与领主之间维持着依附关系,当时的生产力只满足于自产自销的程度,没有太多剩余,更甭提通过贸易实现资本的积累,但是当城市生活兴起后,个体与领主之间的依附关系被大工业生产模式下的雇佣关系所替代,不仅生产力有了大幅度提升,资本也有了飞跃式的累积,最重要的是,产生了新知识,从而实现了第一次工业革命。
我之所以乐观,是因为我相信数字技术的发展能改善社会的生产关系,并进而提高生产力,以及相信通过技术带来的累进式改良会为社会创造“好”,而我之所以谨慎,是因为我并不确定数字技术的应用是否总能被正确的人以正确的方式打开,除非在推广数字技术的同时,我们能够配以同等质量的制度性改革,因为好的制度关乎正义。在希腊神话中,宙斯并没有因为人的互相残杀而放弃人类,他决定拯救人类,于是派赫尔墨斯给人间送去正义,当赫尔墨斯向宙斯询问该如何分配正义时,宙斯说“平均分配”,因为正义是一门调和冲突的技术,也是一种有关如何正确使用技术的技术,它能让人间重回和谐,给予个人幸福,所以它应该为所有人所掌握。
总结
十五年前我刚上大学,当时的网络购物还不像今天这样普及,很多人都担心因无法“亲眼见证”而遭遇网络欺诈,后来淘宝推出支付宝,交易欺诈的问题虽然依旧存在,但已经成了小概率事件。十年前,几大网络平台都充斥假货,各种品牌商大受挫折,后来平台们搞了各种计算机算法和监督机制,虽然伪劣产品今天依然有,但也大幅度改善。有计算机技术的应用,就有计算机技术的滥用,正如有公路就有车祸一般,既然我们不会因为车祸去废除公路,那我们也不该因为计算机技术滥用的风险而废除计算机技术,聪明的做法是以“小步快跑“的方式不断改进。
“网络购物”这件事之所以能发展起来,是因为有三股力量在背后推动它的小步快跑:一股力量来自大大小小的互联网公司,尤其是那些民营企业,因为是他们凭借着自身的努力在不断优化互联网的体验;另一股力量来自政府,因为是他们在不断推动基础设施的建设,才使得中国的互联网成了全世界最畅通的互联网;还有一股力量则来自消费者,因为他们靠怀疑、不满与愤怒制约互联网公司的技术滥用,以及靠敲键盘、点屏幕等“用手投票”的方式要求政府不断改善市场环境。所以,如果数字中国能实现,更好的公共服务能够问世,那肯定也是因为三方合作而非某方特别努力的结果。
包利民:《至善与时间——现代性价值辨证论》,浙江大学出版社,2018年。
责任编辑:韩少华
校对:丁晓
澎湃新闻报料:4009-20-4009   澎湃新闻,未经授权不得转载
关键词 >> 至善与时间,库兹韦尔

相关推荐

评论(0)

热新闻

澎湃新闻APP下载

客户端下载

热话题

热门推荐

关于澎湃 在澎湃工作 联系我们 版权声明 隐私政策 澎湃广告 友情链接 澎湃新闻举报受理和处置办法