豆瓣9.2，刘慈欣没发表出来的那个故事，被他说清了

最近，象棋AI击溃顶尖职业棋手，绘画AI在国际比赛中夺冠，AI伴侣的用户群体越来越广等新闻频频出现，无不证明了一个趋势：

科技正在逐渐取代人类的社会价值，科技的副作用开始更广泛地展现。

科技发展的初衷是利人的，可如今人类的日常生活、情感追求、工作意义却逐渐被科技反噬。

我们会不会失业？

人工智能会不会失控？

科技发展会不会导致社会动荡，从而引发战争？

当人们不得不为自己的轻易可替代性而焦虑，然后担忧起并不遥远的未来时，我们又能做些什么？

科幻艺术的预言

在当下，我们的确面临着许多科技带来的弊端，比如大数据杀熟、信息裸奔、职业被取代等等。

手机上随便搜索一个关键词，几乎所有APP都会精准做出相关投放。

位于河北的雄安新区，智能科技已然取代了物流、司机、收银、流水线作业等技术含量较低的职位。

不禁让人担忧：下一个被人工智能替代的，会是哪个行业呢？

但对比未来世界的种种，这些都还只算是小儿科。

通过科幻影视文学作品，我们大概能想象到被不加制约的科技发展摧毁的人类命运。

改编自刘宇昆“末日三部曲”，豆瓣评分9.2的成人动画《万神殿》展现了这样一种可能：

人类为了突破永生，选择将意识上传到云端，他们称之为“上载智能”。

然而出于私欲，几个资本巨头公司却将自愿上载的人关在了电子监狱中奴役，通过操控他们，源源不断地为自己创造价值。

被奴役的上载智能者感受不到时间的流逝，永远地循环在忙碌工作的白天。

但科技没有上限，上载智能中总有几个成功越狱的天才，摆脱资本公司的控制后，他们成为了网络世界中的神明。

面对被暴露的危机、被消灭的恐惧和被操纵奴役的愤怒，他们只要动动手指，轻易便能按下世界上任何一个国家的核按钮，人类的毁灭就在一念之间。

如今的科幻作品，无一不是预言。

《黑客帝国》讲的是典型的赛博朋克式未来，人类蜗居“云端”，算法蚕食世界。

科学技术异常发达，社会结构却愈发崩坏，普通人注定要被精英阶层榨干最后一滴血，一代代循环在无法出逃的噩梦中，然后被MATRIX系统变成自己的傀儡。

《黑镜》第一季第二集则是被消费主义和科技共同蚕食的虚假乌托邦。

上层精英掌控世界，中下层只能挣扎在日复一日的重复劳动和闭眼也关不掉的广告植入中。

反叛者愤怒、压抑、绝望，最终却被体制招安彻底异化，将反叛的碎玻璃收在精美的丝绒盒子里，从屠龙者变成了恶龙。

《我，机器人》和《西部世界》等则赋予了AI自我意识。

当人工智能不再被阿西莫夫三定律所制约，当他们有了感受和感情，人类便轻易成为他们需要消除或报复的对象。

其实无论是赛博朋克、电子监狱还是其他AI形式能否反客为主，科技若不加以制约，背离人道主义，人类命运最终都会走向一个非常糟糕的方向。

而在这一天来临之前，我们又能做什么呢？

要爱具体的人，不要爱抽象的人

要爱生活，不要爱生活的意义

如果你看的科幻影视文学作品足够多，你就不难发现，几乎每一个科幻灾难片都有相似的反叛母题，相同的反叛动机。

那就是情感、爱和对世界的感知。

《万神殿》中，父女之爱、夫妻之爱是被奴役的上载智能觉醒并坚持做正确的事的源动力。

因为一张照片，大卫回忆起对妻女的牵挂，强行冲破了电子监狱；丈夫的支持和陪伴让劳瑞再次爱上了他，为此她不惜将自己暴露给全世界。

而《黑客帝国》的主角选择醒来，宁愿回到破败不堪的现实也不愿意沉溺在虚幻中，原因也很简单，因为真实就是真实，虚幻就是虚幻。

科技的手段，让人类的生活形态发生了退化。在虚拟中感知世界，所有的体会都是一种虚假的欺骗。

这便是赛博朋克的核心命题之一：全盘否定人类的自我感知。

所以，想要做到不被科技发展反噬，我们就必须保持对爱和世界的感知，正如陀思妥耶夫斯基那句话：

爱具体的人，不要爱抽象的人，要爱生活，不要爱生活的意义。

同时，科学伦理也告诉我们，科技永远不能凌驾于人类。

克隆人技术之所以被联合国明令禁止，正是因为克隆科技的发展已然触碰到了人类科技伦理的红线，它轻易就能摧毁“人”这个定义的底层逻辑。

科幻短篇《地球倒影》便讲了这样一个故事：高等外星生命将人类的生理时间停止，为人类制造一个没有死亡的乌托邦。

许多普通人像敬神一样对待外星人，但偏偏有一小撮人，因为各自的原因想要挣脱这种自以为是的“保护”。

《地球倒影》

苏民 著

（节选自《另一颗星球不存在》）

学校放了三天假，没等到任何关于大室倒影的说法，高三年级就急不可耐地恢复了上课。缺席的人很少，大部分昏迷的学生都恢复了，羽也是。

“天上再怎么奇怪，都跟你们没有关系。”班主任干瘪的食指用力地在空中划点，鼻子上一对方形镜片反射着冷漠的光，“你们只要记住，就算天塌下来，高考这件事也不会改变。”

学校仿佛一个与世隔绝的空间，保持着按部就班的乏味节奏。有一天食堂里的菜量突然比平日少了一半，好多学生都没吃饱，抱怨连连，好在第二天就恢复了正常。

陆续有学生家长来学校看望孩子，说起商店里的食物被疯抢，人们争先恐后地储粮，我们才感觉到一丝恐慌。

人们不知道发生了什么，但是先储备点粮食总是安全的。国人就是这样忧心忡忡，过度紧张。

父亲应该知道到底是什么情况吧。我这样想着，但始终没有勇气给他打电话。这时候，父亲竟主动来了电话，礼貌地询问我在学校过得如何

＂还行。”我说，“就是前阵子食堂差点没的吃了，后来就好了。”

“嗯。”父亲在电话那头轻轻应了一声，好像收到学生回答的老教授。

马上我又想到，事实上他确实是个教授，而且老，当初他把我送到寄宿学校时，模样就比其他同学的父母要老上好多，戴着一副笨重的黑框眼镜，面无表情，没什么生气。后来我才知道，我出生的时候，他已经快四十了。

“最近外面抢购得厉害，不过学校应该有别的补货途径，毕竟是所学校，比普通家庭强些。”

“会有世界末日吗？”我问出了心头的疑惑。

“应该不会。虽然有不明射线，但还没发现这种射线对动植物有害，对人也没影响。”

“竟然没影响到手机信号。”我说。

他干涩地笑了两声。我能感觉出，他在努力用轻松的态度回应我的玩笑，可还是太勉强了。我看了看手机上的通话时间，才打了一分半。我再也找不到别的话题，只好问他工作如何。

“有些忙。”他说，“我们还没搞清楚到底发生了什么。”

“连你们都不知道吗？”

他说，布置在太空里的卫星全都失灵了，无法传回从外太空观测到的地球情况。他们最多只能使用军用飞机。

他们试着驾驶飞机飞上去看情况，却无论如何也飞不到倒影所在的位置。

倒影似乎离他们无限远，又好像是时间停滞了，或许他们以为自己在飞，却根本没有前进一米。那空中的倒影就像一面永远无法触碰到的镜子，又像虚幻的水中倒影。

“无法触碰到的镜子？”我重复了一遍，在脑海中想象着，“谁能给整个地球罩上镜子？”

“不知道。现在还没确定是自然现象还是人为的。如果是人为的，那一定是地球之外的智慧生命干的。”

我朝着天空伸出手，感到冰冷和孤寂。一面永远无法触碰到，只能反射自己的镜子。

原标题：《豆瓣9.2，刘慈欣没发表出来的那个故事，被他说清了》

阅读原文