陈楸帆:人工智能都开始写小说画画了,人类该怎么办?

2019-10-28 18:13 来源:澎湃新闻·澎湃号·湃客

字号
GQ报道
陈楸帆:人工智能都开始写小说画画了,人类该怎么办?
原创: GQ Talk GQ报道
智趣多元的声音杂志,一周一会的声音派对,大家好,欢迎收听本期GQ Talk。
今年初,上海《思南文学选刊》发布了一份特别的文学榜单——AI文学榜,用AI算法对文学作品打分。在评选前期,诺贝尔文学奖得主莫言的一则小说一直位居榜首,但在评选的最后一天,另一篇短篇小说以0.00001分的优势超越了莫言,它叫《出神状态》,作者是科幻作家陈楸帆。
得知这一消息,陈楸帆心情复杂。作为一名创作者,他比其他人更早感受到了人工智能带来的危机。一种常见的论调是,如果你担心将来有一天自己的工作被AI取代,那么你就应当选择一些创作性的工作。然而陈楸帆正在接触的现实是,AI已经开始越来越频繁地入侵艺术创作的领域,能写小说,能做雕塑,能画画……
面对这样的局面,人类该怎么办?美是可以被计算的吗?真、善、美的标准会因此而瓦解吗?人之所以为人的价值和尊严还会存在吗?在由NEX联合呈现的GQ Focus「新技术如何改变我们的未来」主题活动中,陈楸帆探讨了上述问题,并在活动后与我们进行了进一步的讨论。
AI都已经开始写小说画画了,人类该怎么办?
今年上半年,上海的思南文学选刊挑选了2018年20本最重要的主流文学期刊上的771篇作品,每一篇都用AI算法跑了一个分数。AI会以“结构的优美程度”为标准,给每篇小说画一个曲线,曲线最均衡、最优美的,就会得一个高分。
在前面提交的所有作品里面,莫言老师发表在《十月》上的一篇作品一直是第一名,这样的结果让所有的人心里都非常松驰,就觉得这个AI还挺靠谱的,毕竟是得过诺贝尔奖的老师。到了最后一天,上海的一本期刊《小说界》把它刊登的作品打包提交给算法,跑出来之后,有一篇作品以0.00001分,小数点以后四个零的非常微弱的优势超过了莫言老师,登顶AI文学榜的榜首。
大家可以猜一下,登顶的这篇作品出自谁手?
不好意思,就是在下。这个段子我能讲一辈子,这是我人生中唯一一次击败了莫言老师。
但关键不在于我击败了莫言老师,更有意思的是,我在这篇小说里用到了AI算法创作的一部分内容。2017年下半年我跟中信出版社签了一本书,叫《人生算法》,当时我想从各个不同的角度探讨人和机器之间的关系,就突然想到,为什么我不能让一个AI来学习我的写作风格,把它写出来的东西和我写出来的东西放在一块,这样形式和内容都非常相得益彰。
因为我曾在谷歌工作多年,我就找到我的前同事,创新工场AI研究院副院长王咏刚,他也是科幻迷,他一听非常兴奋,马上给我做出来一个机器学习的模组,其实原理非常简单,无非是一些语料分析、排列组合和词频统计的工作。我把我所有作品打了一个数据包喂给机器,它经过学习以后,根据我输入的关键词,吐出来几段话。
关键是它不像微软小冰,大家知道写诗不需要很强的逻辑性,每两句之间可以非常跳跃,这种意象性和节奏感才是诗歌的本质。但是对于小说来说,其实要求非常强的故事情节,要有逻辑性。所以后来我围绕AI创作出来的这些段落,又写了一个故事,让读者读的时候觉得这些AI创作的部分在里面是合理的、有逻辑的。
所以其实我不是让AI做我的写作机器,而是让AI成为了我写作的主人。在这种非常有意思的人与机器的协作过程里,你会发现我们已经来到了一个非常危险的边缘——以往我们认为,可能只有人类才能够去做很多有创造力、有审美力的一些感性的工作,但是现在你会发现,AI算法已经侵入了这些领域。
比如下面这幅画,大家觉得这幅画美吗?如果它是一个不出名的画家画的,你会出多少钱拍下它?
相信大家都不会掏太多钱。但是这幅画去年10月在佳士得拍卖行拍出了43.25 万美元的价格,超出估价40倍。它其实是由AI创作出来的一幅肖像画,法国的一个团队让AI学习了14-19世纪间的15000副肖像画,它分析了所有的笔触、色彩、构图等等要素,生成出来一些这样的肖像画。
在同一场拍卖会上,还有一幅毕加索的作品,两幅作品拍出来的价格差不多。这样的一幅作品你可以说是有一些噱头的成分,但是未来也可能有越来越多这样的作品出现在拍卖会上,出现在画廊里,甚至是藏家的手里。
这对于每一个从事艺术创作、人文行业包括创意行业的人来说意味着什么?我们会去想它背后隐含的逻辑,美是可以被计算的吗?大家现在用很多的美图软件拍照的时候,它会根据一个模板,把你按照某个网红的五官比例、肤色、眼睛的大小、瞳孔的颜色进行匹配。这样的一种美代表着谁的审美观念?这样的一种权力掌握在谁的手里?
如果美是可以被计算的,我们要问下去,真呢?善呢?爱呢?人呢?这些都关系到我们所信仰的“人之所以为人”的一些最基础的观念。
大家知道前阵子一个APP非常火,它允许你把一些影视作品里面的人脸进行自由的替换。像这样的一些东西如果用到了生活里面,其实非常可怕,你可能在视频聊天的时候并不知道对面跟你说话的人到底是谁,因为它的技术已经能够无缝地去改掉你的脸,甚至所有说话的口形和微表情都可以完全匹配上。
再来谈谈善。现在人们经常谈大数据,所谓的大数据其实都掌握在一些大企业手里。数据的所有权是你,还是大公司?谁来决定如何使用这些数据?是否需要经过每一个人的同意?
我不知道你们有没有经历过这样的事情,有一次我坐在车上我跟一个朋友聊天,谈到了一个饭馆,过了一会儿,我拿起手机打开了某一个点评软件,里面给我推荐的第一家就是这家我刚刚说到的饭馆。
不知道有几个人经历过这样的事情,在我身上已经发生了好几次。我相信这样的经历背后肯定有一些未经我允许的数据调用,有可能是语音,有可能是视频,有可能是你自己根本不知道的一些数据,我们现在使用的这些科技可能远远比你自己要了解你自己。
我们在思考科技在未来可能会重新定义美的时候,其实背后隐含着一个更深层的定义,就是我们要重新去定义人,人的位置,人的价值。大家知道,过去20年里中国的互联网产业或者说整个信息科技产业经历了突飞猛进,甚至可以说是狂飙突进的阶段,所有人都在追逐数据,追逐利益的最大化,这是一种圈地运动,怎样把所有的用户圈进来,变成流量,再去变现。
而现在我们已经过了之前20年的人口红利阶段,到了一个相对平缓的阶段,在这个阶段我们应该思考科技公司,包括我们所使用的这些技术和我们每个人的关系。
“科技文艺复兴”是我提出的一个概念,为什么我要把科技和文艺复兴放到一块?说起文艺复兴大家肯定知道达芬奇、但丁等,他们在中世纪快结束的时候受到新兴资本主义的驱动,提出要反抗神权,重新确立人的价值,他们要歌颂自然的美,要回到古罗马和古希腊的时代。
文艺复兴时期,人的精神得到了解放,这种解放后来变成了生产力的解放,那个时代和今天有很多可以类比的地方,比如说贺建奎把自己放在了上帝的位置上,他觉得自己拥有这样一项技术,就可以改造一个婴儿的基因。现在其实非常多的人或者企业会把科技当成神一样的存在,它拥有权力、绝对的权威可以掌控成千上万甚至上亿人的日常生活轨迹,那么在这个时代,我们是否也需要重新去思考人类的位置,人类的价值,人类的尊严在哪里?
当然我说的科技文艺复兴不等于是路德主义,不是19世纪拿着锤子砸织布机、蒸汽机的产业工人,我们现在做不到这样了,因为机器已经深刻地嵌入到每个人的日常生活甚至身体里。我认识一个朋友,她是康奈尔大学的学生,也是一个叫做美国赛博格联盟的组织的成员。赛博格是什么?它是控制论和器官的组合词,意思是人和机器的合体。她在自己的手背上植入了一块芯片,这样的芯片可以让她坐地铁的时候不用掏地铁卡和手机,手背一滑就过去了。
她所在的组织里充满了各种改造自己身体的尝试,他们相信人机合体才是真正的未来。有一些人把磁铁放在自己的身体里、手掌里,这样他就具有了一种新的感官,当他的手伸向铁器金属物体的时候,会产生一种震颤感,就好像你有某种超能力,像万磁王一样可以吸引某种东西。这样一群人他们非常激进地去拥抱未来,而我们今天探讨的是,我们和机器、技术以及算法之间到底应该是什么样的关系,我们想要拥有什么样的未来?
我觉得科技文艺复兴首先要珍视感性经验。理性在这个时代被高估了,所有的东西都可以被数据化,都可以用数字来进行衡量,包括我们每天摄入的卡路里、行走的步数、睡眠的时间都会被数字所掌控。反而是感性在这个时代是被低估了,因为很多的时候我们觉得感性是非常多余的东西,会阻碍你做很多的决策,会让人变得脆弱、敏感,甚至有时候会让别人觉得你是一个不可控的、不稳定的个体。
但其实那是因为我们还没有对感性的经验、感性的力量去做足够的发掘,因为到最后你会发现感性,包括我们如何去理解对方的情感,其实是人类一项非常基础的能力,这种能力让我们可以协作起来,从一个个体变成一个部落、社会、国家、文明的整体。如果缺少了这种感性的能力,我们永远只能是一盘散沙。
其次,我们要重新校准理性。这句话如何理解?刚才我说的这些所谓的“理性”其实只是一种功利主义的表现,我们制定的所有目标只是为了最大化我们的利益,最快、最强地发展我们的经济。但是到了现在,我觉得需要重新校准理性,不要再去迷信之前走过的路,不要再迷信权威,要重新思考怎样才是最重要、最有利于大部分人的理性。
然后,要尊重人性之美。这是比较大的一句话,但是科技层面有很多可以做的事情,比如如何让一项技术可以公平地造福所有的人。现在在非常多的边远地区,很多儿童要求的并不是书籍,而是一个手机,为什么?他们想要用它来玩游戏,看短视频。大家知道,在这样的一个算法时代里,所有算法的目的都是让人上瘾,让更多的用户花更多的时间产生更多的流量在它的平台上。但是它并不为用户考虑,如果你沉迷在上面会产生怎样的后果。这对那些边远地区的孩子会带来非常灾难性的后果,因为他们除此以外没有其他的娱乐。
除此之外,我们还要去接受多样性。打比方说,每天我们接受的信息其实都是由算法给你推荐的,你看过、点过,它会标注你对这样的信息类别感兴趣。昨天我吐槽淘宝有个算法很蠢,有个女生买了条裙子它就一直给她推送类似的裙子,有个人买了冰箱就会一直推荐冰箱,可是谁会一直买冰箱呢?所以说这样的算法其实还不够智能,我们看到的信息,我们能做出的不同的选择其实是非常有限的,你以为你自己在做选择,其实并不是。在这种情况下,科技如何创造一些多样性?如何打破这样的信息茧房?这需要人文主义者的介入。
下一点,是重新连接自然。大城市里的人其实很多时候是通过一些媒介中介物接触自然的,那天我在豆瓣上看到一个人说,我通过后视镜看到了一片夕阳,特别美丽。我们已经堕落到需要从后视镜才能欣赏自然界的美丽吗?这不是特别可笑的事情吗?人类作为自然界的一部分,很多能量其实来自于自然界,切断了这些联系必然导致你自身的虚弱。
最后一点是引导文明向善,什么是善?是针对于谁的善?针对于某个个体、某个群体的善,还是整体的更大的善?这个善的标准在哪里?其实这都是值得我们去思考的问题。这样一个正向的导向,我相信是这个时代或者说下一个时代最重要的东西,就是我们不再为了去赚更多的钱,不再为了利益的最大化去设计我们的科技流程,而是为了人类更大的善念。
最后引用我非常喜欢的一句话作为结尾,就是薄伽丘的“幸福在人间”。这个幸福是谁的幸福?这个人间是谁的人间?我希望大家都能仔细地思考,谢谢大家。
陈楸帆的演讲结束后,
我们又和他继续探讨了相关话题。
AI写作更像诗歌,缺乏叙事逻辑
傅适野:你在演讲一开头讲到自己获得了一个AI小说榜的冠军,打败了莫言,而这篇小说其实是你跟AI合作完成的。有一些读者反馈说,不太能分得出来你这个小说里面哪一部分是AI写的,哪一部分是你写的。
陈楸帆:对,但是我对他们的这个判断力表示怀疑。
张之琪:你觉得还是挺容易分辨的?
陈楸帆:对。
张之琪:那AI写的部分有什么特点吗,跟人写的不一样的地方在哪儿?
陈楸帆:它其实根本上是一种统计学的方法,就是它统计不同的字,比如说某个形容词跟动词之间的联系,计算出一个统计学上的概率,然后去模仿这个东西,自动地生成。所以本质上它是没有逻辑性的,词与词之间是一种随机的联系,句与句之间也不具备传统意义上的文学的逻辑,叙事的逻辑。所以我觉得更像是诗歌或者散文,它非常跳跃。
张之琪:可以给我们读一段吗,让读者和听众们有一个比较直观的感受。
陈楸帆:好,没问题,“你露出黑色眼睛,苍白的皮肤如沉睡般充满床上。数百个闪电又缓慢地开始一阵厌恶,时间往前走,翻转出神被落下,眼前是贴着星空,却不看到自己完全疯狂之地,加入新世界如何自由情感,更确切地说是可以。你再次抬头,把那些不完备上呈现的幻觉和他离开你,消失在晨曦中,绸缎般包围。”
张之琪:它确实写得很像诗。
陈楸帆:对,很像先锋派的那种感觉,就没什么逻辑,但有些句子就感觉还挺美的。
傅适野:你觉得创意性的写作,它最终是可以被AI写作取代的吗?
陈楸帆:首先我们要界定什么是创意。我觉得可能我们到现在还没搞明白到底人的这种创造力、想象力是从哪里来的,因为本质上我们没有办法量化这个东西。我理解的想象力跟创造力就是在一些毫无关联的事物之间建立联系的能力。这种联系的基础是一种个体的经验,或者潜意识的情感,它是有一个背后的算法在的。但这个算法是什么,我们现在不知道。在这种前提下,机器只能从统计学的意义上去模仿,但是没有办法做到真的有自己的想象力或者创造力。
张之琪:在人的思维看起来是创造力的部分,其实对于机器来说就是一个非常随机的组合,这个部分会不会反而让我们觉得它可以带来新的灵感?
陈楸帆:对,其实是可以的。现在有很多网文的写作辅助工具,就是它会给你一些排列组合,比如说什么样的情节,什么样的人物,人物是什么样的性格,就是人设嘛。你可以不断地去生成不同的人设,不同的桥段,然后你可以选择如何去搭配,就是这样的东西可以帮助很多网文写手一天就产出很多网文。
虚拟偶像普及化是必然的趋势
傅适野:关于“真”的话题,你在演讲里提到了一个叫deepfake的软件,它其实是可以模糊什么是真、什么是假的这个界限,它可以换脸。包括我后来看到,还有一个叫deepnude的软件,你把一张人像图片传上去之后,它可以把它变成一张裸体照片,所以很多女性的肖像权或者隐私权因为这样的软件受到了侵害。你怎么看待类似这种软件带来的关于真和假的问题?
陈楸帆:我推荐大家去看一部最近刚出的英剧,叫做《真相捕捉》(Capture),它其实就是从一个这样的故事展开。一个人发现自己上了监控录像,去绑架了某个人,但其实他没干过,这是一个用高科技去栽赃嫁祸的事情。它讨论的是在一个后真相的时代,你怎么样去判断真和假,你必须要魔高一尺,道高一丈,必须要有这种反作假的能力。
所以我觉得,随着技术越来越先进,我们肯定需要这样一些所谓的保险,就是你要给技术上一道保险,你必须要有这样的能力,从技术的层面上去防范,因为光靠伦理道德的制约是很不够的。
张之琪:deepfake这种技术,我们现在接触到的它的一些应用,可能主要是在一些比较娱乐化的场景下,比如说给一个明星换脸。那它真正有价值的应用场景应该是什么?
陈楸帆:我觉得它可以在很多的场景去用,比如在教育的过程中会越来越多地用到一些虚拟的老师,甚至虚拟的同学、助教,那么它其实需要有一个及时的反馈给学生,这其实跟虚拟老师的面部表情是否足够拟真有关。这样一种技术,可以用到教育领域,帮助很多的孩子,让他们在网上就可以获得这种高度交互的,高度沉浸式的教育,他不需要去到课堂,就可以跟很多的同学老师进行交流。
但是,现实情况是,很多的新技术首先都会应用到黄赌毒,我觉得这可能就是人类的一种底层本性吧。
张之琪:之前deepfake的技术出来了之后,有很多人把一个没有演技、比较面瘫的明星的脸换到一个比较有演技的明星身上,哦,他原来也可以演这样的角色,演得还不错。那会不会发展到后来会变成,一个idol,他只需要出让一个肖像权,其他人提供演技或者其他的部分,然后就可以把它们结合在一起。
陈楸帆:对,其实莱姆有一篇小说,后来也被改成了动画,叫做《未来学大会》。它讲的就是一个演员,他演了一辈子戏,最后他的肖像权被一家公司买了,然后完全数字化,上传到云端,然后他要重新去寻找自己的价值的故事。
我觉得这样一个未来肯定是会到来的,而且可能都不像你说的有一些人卖脸,有些人卖演技,当你的数据积累到一定程度的时候,所有这些演技都是可以被生成的,就是你要布拉德·皮特的演技,你要罗伯特·德·尼罗的演技,你要杨幂的演技,都可以,就是按需分配。
而且这样的东西你甚至连脸都不需要,完全是虚拟的。像现在初音未来这样的虚拟偶像,我觉得是未来必然会到来的一个趋势。因为虚拟偶像它不存在丑闻,它不存在可能会失控的状况,它的酬劳也是可控的,它可以无限地延长寿命,你甚至可以改变它的性别,改变它的肤色,改变它的外形,都可以随意的改变,所以它就具有了无限的可塑性。
互联网乌托邦并没有出现
张之琪:你在演讲中也提到,这种以流量,以不断的点击和滑动为最终目标的互联网产品,未来会慢慢被市场淘汰掉,是吗?
陈楸帆:我希望是这样。但是这个就是需要很多不同的利益相关方,都能有这样一个意识。这其实是一个鸡生蛋、蛋生鸡的问题。你想要去培养什么样的用户,你最终就得到什么样的用户。所以我觉得这个肯定需要向科技公司去宣扬这样一些理念,希望能得到他们的认同。就是让我们的互联网产业从量的增长,转变为一种质的增加。保证你的信息能够给用户带来一种心智上的成长,我觉得这是非常重要的。
傅适野:但这会不会也带来了一种数字素养阶层分化?有一些人他可能有更好的、更高层次的数字素养,但有一些人他还是会停留在那个永远滑动、短注意力的那种使用方式里面?
张之琪:事实上已经分化了吧。我们之前有跟一个专门研究游戏的学者聊天,她说如果你有一个小孩,你是不可能不让他玩游戏的,关键是你为他选择一个什么样的游戏。如果家长有意识地帮他选择一个更好的、更有教育意义的的游戏,他可能就会稍微好一点;但是比如说,对于留守儿童来说,他没有什么选择,他可能只能选择最便宜的、最粗制滥造的那种。
陈楸帆:所以今年的诺贝尔经济学奖的三位得主也是揭示了这样一个真相。就是贫穷并不是来自于你的阶层啊,你的出身,而是来自于信息接受的不对称,我觉得这其实就很好地印证了我们的观点。
其实互联网诞生之初,我们大家都是怀抱着一种理想,觉得互联网能够拉平很多的鸿沟,以达到某种理想主义的信息平等。但现在我们看到,这样的一个乌托邦其实没有出现。人类历史可能就是这样一个不断地去中心化,又重新中心化的过程。每一次所谓的去中心化,最后都会形成新的中心,只不过是圈地格局重新分割,以及再造。
本期节目由NEX联合呈现
智趣多元的声音杂志 一周一会的声音派对
GQ Talk
我们下期再见
制作人:傅适野
主播、撰文:傅适野、张之琪
监制:何瑫
视觉设计:肖呱呱
微信编辑:二水
阅读原文
关键词 >> 人工智能,陈揪帆
特别声明
本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

相关推荐

评论(21)

热新闻

澎湃新闻APP下载

客户端下载

热话题

关于澎湃 在澎湃工作 联系我们 广告及合作 版权声明 隐私政策 友情链接 澎湃新闻举报受理和处置办法 严正声明