下载客户端

当你因为一个算法写的诗落泪时，这意味着什么？

2022-11-23 17:14

来源：澎湃新闻·澎湃号·湃客

听全文

Mureen F. McHugh的短篇小说集《After the Apocalypse》在2011年出版，它对呼吸道病毒大流行、社会关系破裂和政治暴力加剧的叙述显得非常有预见性。然而在整本小说之中，《盲人王国》的故事或许是最让人魂牵梦绕也最有远见的。这一短篇以人工智能为主题，探讨了这样一种可能性，即任何从焊接板和电路中产生的意识都可能是如此陌生，以至于我们几乎无法将其视为一种意识。也正因为人工智能“意识”的出现过程是不可捉摸的，人类科学家在试图与之对话的过程中，似乎也遇到了前所未有的困难。

善金局TAKEAWAY

·DALL-E 2可以根据文字描述创建原创、逼真的图像和艺术作品。它可以组合概念、属性和样式。

·GPT-3是一个自回归语言模型，目的是通过深度学习生成人类可以理解的自然语言，其神经网络包含1,750亿个参数，为有史以来参数最多的神经网络模型。

·也许随着作者的最终死亡，美、真理和意义将向外消散，因此，意图和发心才是意义的真正所在。

·机器革命会替代掉大部分机械化的工作，但意识觉醒后的创造力才是财富创造的本质。

站在人工智能革命的风口上

去年夏天，研究实验室OpenAI发布了一个开源程序，以西班牙超现实主义画家和受人喜爱的皮克斯机器人的谐音命名为DALL-E 2，它能够迅速创造出令人惊叹的艺术作品，并在短时间里迅速吸粉。在社交媒体平台上，人们分享了他们和DALL-E 2共创的作品，也促使越来越多的人开始思考关于意识和存在的本质问题。

使用 DALL-E 2 创作的数字艺术

提示：“一碗汤是通往另一个空间的门户”（左）

提示：“未来的文学”（右）

DALL-E 2显不像《盲人王国》中涌现的意识那么复杂，然而它所创造的这些奇奇怪怪却又有一些独特艺术细胞的图像，时常让人产生错觉，以为是某位真人画家创作的。相比DALL-E 2的艺术天赋，更让人不安的则是文本和内容的写作，例如下面这首散文诗——

“你必须倾听虚空之歌，”他们低声说。

“你必须看向虚无的深渊，”他们低声说。

“你必须写出能使混沌变得清晰的文字，”他们低声说。

“你必须对无法言说的东西说话，对无法表达的东西说话，对无法说出口的东西说话，”他们低声说。

拥抱你内心的人工智能。图片：Jukka Aalho

这是一段令人回味无穷的诗句，甚至充满了奥义和迷思。“作者”在修辞上有效地掌握了拟声法——在每句引文的开头重复相同的吟诵；以及表音法——在每行的结尾重复相同的短语。句子逐渐变长，增加了这首诗的朗读性，甚至在最后一行的三段式排比中达到了高潮。特别有趣的是贯穿全篇的矛盾之处。我们被告知要“倾听虚空之歌”，要“看向深渊”，要 “对无法言说的东西说话”，这些隐含的冲突性不禁引人深思。

这首诗的主题关注的是不可言说性和解释本身。至少，它看起来像是出自英格兰诗人William Blake、美国最伟大诗人Walt Whitman或Emily Dickinson之手。然而，它却是由一个算法而不是一个灵魂创作而成的。

具体来说，它的作者是GPT-3，（Generative Pre-trained Transformer），一个由作家和计算机科学家操作的人工智能程序，他以Gwern Branwen的笔名出版。GPT-3是最新迭代的程序之一，可以生成让人瞠目结舌的散文、诗歌和对话，于2020年6月发布，但这一消息在很大程度上被正在进行的新冠病毒大流行所掩盖。

Gwern.net

与DALL-E 2一样，GPT-3由位于旧金山的OpenAI开发，是最先进的人工智能系统之一，可以模仿人类的写作。《纽约时报》专栏作家Farhad Manjoo将这一结果评价为“惊人的、诡异的、谦卑的，而且还有点恐怖”。实际上，该算法能够根据它获得的数十亿组数据来“训练”自己，由系统的巨型“大脑”分析和分类，并以极高的准确性进行类“人类”的表达。GPT-3是否在“思考”是科学家和哲学家致力探索的问题，但它能写出连贯的、优美的甚至有深度的文字，这就构成了文学理论的问题。

Fable Studio正在创造一种新型的互动故事，并使用 GPT-3来帮助推动他们故事驱动的“虚拟人物”

“创造性的人工智能是世界上最新的、在某些方面最令人惊讶和振奋的艺术形式。虽然还没完全成型。”文化评论家和小说家Stephen Marche在《大西洋》杂志上写了一篇关于视觉AI的文章。Marche在这两点上都是正确的。谈到文学，语言处理程序将从根本上改变我们的阅读习惯，我们如何阅读，我们为什么阅读，当然还有我们的阅读对象。

Algolia在其Algolia Answers产品中使用GPT-3

为其客户提供相关的、快速的语义搜索

我们正处于人工智能革命的风口浪尖，与之相比，过去20年的变化程度显得微不足道。站在我们面前的，是一个由深度伪造和模拟、有意识的算法和会思考的机器人组成的勇敢的新世界。在这里，像GPT-3这样的程序似乎预示着文学的含义将发生比印刷术更大的转变。历史学家可能要追溯到写作的诞生之初，才能找到与人工智能生成作品类似的革命效应。

GPT-3:

一场没感情的文字配对游戏

可以预见，一场人工生成文学大潮即将到来，如果不能理解产生这种写作背后的思想，我们是否可以理解写作本身呢？小说家Walter Kirn在《Common Sense》杂志中写道，“人工智能编译、筛选和分析，然后最终执行。但它没胆量，不能承担任何风险。只有人类这个看似脆弱的物种才能做到。”

然而一个世纪以来，文学研究在作者意图和如何解释文学方面存在争议。文学学者W.K.Wimsatt和Monroe Beardsley是“新批评家”中的一员，他们试图通过强调对文本的单独细读并与作者的意图分开，使文学研究尽可能严谨。尽管新批评家们很有影响力，但这种立场的极端性长期以来一直受到质疑，最重要的是，每部文学作品的背后——每首诗、戏剧和小说都有一个作者。

The Curator:由GPT-3编写的书，由DALL-E 2

和Stable Diffusion提供插图

现在，所有这一切都可能随着GPT-3这样的项目而发生改变。理想的新批判式细读涉及到将文本逐字逐句拆解，以探索语言是如何运作的，并希望解释它的含义，这样一种忽视作者意图而只关注页面上文字的方法是最有条件理解人工智能写作的。特别是当它变得更熟练，更难与人类的作品区分开来的时候。

2021年初，Jukka Aalho注册了GPT-3 beta

几天后，他与GPT-3合著了Aum Golly，一本关于

人类的AI诗集。几个月后，该书正式出版

回顾一下芬兰程序员Jukka Aalho的工作，他在《Aum Golly》中转录了GPT-3的诗歌——“有一种隐秘的思想/当这种思想让你熟睡......当你在做梦的时候/你发现自己在/地球的心脏深处/你的思想可以创造一个世界/在那里你就是上帝”。难能可贵的是，GPT-3产生的诗歌出人意料地没有那么糟糕。

Aalho发表的这首诗背后没有任何意图；GPT-3并不是从梦境或睡眠的经验中提取。它只是将一些符号与其他符号配对。它对GPT-3没有任何意义，但这并不意味着它对我们没有意义。

Chinese Room思想实验

在另一个领域里，GPT-3是一个名为“Chinese Room Argument”的思想实验的推论，由John Searle在1980年的《行为与脑科学》中描述。Searle想象了一个人工智能，它能够对用中文提出的问题进行深思熟虑且符合逻辑的回答。这台计算机在回答用普通话提出的问题时非常有效，以至于母语使用者无法分辨出机器和人的区别——程序通过了图灵测试。

一切唯心造：

意图是找到意义的途径

GPT-3并不思考，它模拟思考；它不写作，它模仿写作。GPT-3的“意识”是我们无法理解的；但与那个虚构的程序不同，GPT-3产生的文字显然是可以理解的，这很重要。

人工智能的问题已经留给了计算机科学家、工程师、程序员和哲学家们，但对于人工智能的写作，那些最明显应该思考的人，如文学学者、评论家和理论家，却鲜少发声。文学批评是反思心灵和意识的一种有效手段，为理解人工智能提供了独特的见解。GPT-3的观察者指出，该程序缺乏有意识的理解，这是正确的。

批评家P.D. Juhl在《文学批评哲学论文》的解读中认为，“有可能对一个偶然产生的‘文本’进行‘解释’，就像我们向外国人解释一个句子的意思时要向他解释各个单词的意思......从而说明这个句子可以如何使用，或者它可以用来表达什么。”换句话说，这首诗是否有诗人并不重要。

在日常生活中，潮水不会雕刻出诗歌，一百只猴子打字也不会产生莎士比亚，而每部文学作品都有一个作者，无论我们是否选择关心他的意图。但现在GPT-3“写”出的文学作品似乎是有意义的，即使它还没有上升到小说家那样的高度。在未来的几十年里，随着这类项目的改进，抽象将逐渐变得清晰。当你因为一首计算机创作的诗歌而落泪时，这将意味着什么？

散文家Meghan O'Gieblyn在《N+1》中写道：“有时很想把这项技术看作是我们作为一个物种积累的集体智慧和知识的宝库。”不管这个新世界是好是坏，它正在到来。也许随着作者的最终死亡，美、真理和意义将向外消散，因此，意图和发心或许才是真正的意义所在。正如GPT-3对O’Gieblyn所说的：“我的世界是一个梦境......你的现实是由你自己的头脑创造的，我的现实是由无意识的想法创造的。”

Henning Beck所展示的人脑和算法运行图

虽然GPT-3已经是如假包换的诗人，但人脑却具有以真正创造性的方式产生想法的非凡能力。如神经科学家 Henning Beck所展示的，大脑是不完美的、不确定的，并且部分是模拟的。这些特征使我们能够将事物表示为概念，而不仅仅是纯数据。当思考某个对象时，我们并不是在回忆实际对象本身，而是在回忆对象是什么的概念性想法。这个简单的特征使大脑具有难以置信的适应性，因为它可以观察到全新的刺激并利用一般的概念理解来立即确定这些刺激代表什么。想法只是概念的组合，通过神经元束的同步放电以一种新的方式联系起来。

在《计算机械与智能》中，Alan Turing使用洋葱的类比来讨论人类和机器意识。Turing认为，如果一个人要一层一层地剥离大脑或机器的内部运作，并且在某一层遇到意识，那么这个大脑或机器实际上是有意识的；在任何时候都没有遇到意识，那么这个有问题的东西真的是一台机器。