下载客户端

《机械姬》的科学顾问为何造访北京龙泉寺？

澎湃讯

2016-05-27 16:14

来源：澎湃新闻

英国顶级学府帝国理工学院，与大隐于北京郊区的神秘龙泉寺，有何关联？当西方的“机械姬”，遇到东方寺庙中的“贤二”机器僧，人工智能的发展是否在世界各地、各行各业都越来越引人关注？一位来自英国帝国理工学院的认知机器人学系教授，与龙泉寺的法师进行对话，科技与宗教的精妙碰撞会产生怎样的火花？

5月20日，伦敦帝国理工学院认知机器人学系教授、奥斯卡获奖影片《机械姬》的科学顾问、《技术奇点》作者默里·沙纳汉受北京龙泉寺之邀，造访参观了龙泉寺并与法师们进行了深切的交流。默里·沙纳汉表示，龙泉寺近年来国际媒体中人气倍增，这使得他远在英国就有过不少耳闻。网上曾经曝出微信的发明人张小龙正是在龙泉寺潜心修炼时得到神秘扫地僧的指点，开悟之后闭关一年研发出微信；更有网络红人机器人小和尚贤二吸引人眼球，这是龙泉寺自己研发的机器人，“萌萌哒”的贤二一身黄色僧袍，不仅会佛经佛法，还能和旁人聊聊人生。

确实，龙泉寺可谓是一个神秘传说般的存在，僧人中不少从清华北大毕业，有人称其为“清华北大分校”。几年前国际数学奥赛金牌获得者、北大数学系高材生柳智宇，放弃麻省理工学院，在龙泉寺出家的消息一度让人震惊。现金的龙泉寺汇聚了不少理工科博士和名校高材生，还被称作国内科技研发力量最强寺庙，坊间甚至流传着“天下武功出少林，最牛极客入龙泉”的说法。

龙泉寺的科技背景，也正是吸引默里·沙纳汉教授前去探访的原因。在参观完龙泉寺，与贤二机器僧互动后，默里·沙纳汉教授与贤二的形象设计者贤书法师，进行了探究科技与宗教渊源的深度交流。后附交流实录。

此次前来，默里·沙纳汉教授还赠予了法师他的新书《技术奇点》，由中信出版集团于2016年5月正式出版。这本深入阐释人工智能的著作是默里·沙纳汉在这一领域深耕多年的思想精髓。他以明白晓畅的语言讲述了我们可以通过哪些方式实现人类水平人工智能，以及在实现人类水平人工智能之后，我们是否会迎来颠覆一切的技术奇点。针对人类对发展人工智能的盲目乐观。他还深入解读人工智能将如何颠覆经济与社会。创造性地解答了在奇点到来之时，人类将如何主宰自己的命运。

交流实录

默里：《技术奇点》的主要内容有关人工智能的未来发展，这也正是我非常感兴趣的方向。10~20年之后，人工智能很可能会代替人类进行大部分工作，人类有了更多的空闲时间，到那个时候，人类如何才能在这些空闲的时间当中找到人生的意义。目前大部分人都过着赚钱养家的日子，如果一旦人工智能替代人类，很多人由此不用辛苦工作，赚钱养家的时候，人们是否能从佛教的角度得到启发，去过一种更有意义的生活。

贤书法师：我想了解的是，西方的人工智能发展到现在，从技术层面来讲，机器人有没有自我意识，或者未来有没有可能拥有自我意识？

默里：目前还没有，但是在我来看，这是可能实现的，虽然我对这种现象不持乐观态度，但是这是机器人确实可能拥有自我意识。

贤书法师：比如说20年后我们制造出两个同样在技术上都最先进的机器人，但是使劲赞扬其中一个，批评另一个，会有什么结果？

默里：首先，我觉得我们在制造机器人的时候，有两种选择，一是让机器人往更像人的方面发展；另一种是，不让机器人拥有人的智慧，这是两种不同的发展模式。如果要让机器人往人类这方面去发展的话，那它们肯定就跟我们人一样，我们在批评或赞扬它时，它们可能就会跟人有同样的感觉，受到批评时候觉得很糟糕，受到赞扬就会觉得很开心。

贤书法师：假设我们要制造一个与人类相仿的机器人，是否会与佛教中的思想冲突？我还想了解一下，同样的两个机器人，在接受不同信息之后，在现有技术条件下会不会产生失控的反应？比如我们俩都是机器人，如果你一直在批评否定我，在排除提前设定的情况下，我有没有可能会攻击你？

默里：这取决于制造机器人时的设定。就像你刚说的那种情况，我们可以制造一个与人类相仿的机器人，但是我们也可以在制造机器人时不加入情感设定，只让它们拥有人类的行为能力，但不拥有人类般的情感。

即使不让机器人拥有情感，但如果机器人能力非常强大的话，仍然会对人类造成一定的威胁。所以人们在这个领域从事研究时，也会尽量让人工智能往对人类有益的方面发展。当然也有人怀疑在未来到底能不能制造出对人类又有益又安全的人工智能产品。您还没有回答我的问题。

贤书法师：虽然我们关注人工智能一段时间了，但事实上我们所说的人工智能只存在于高水平的机械化工厂，特别是在中国，人工智能的发展前景令人担忧。因为商人不考虑善恶，他们在考量技术发展时候只考虑价值，他们会把技术用在成本的核算上，比如一个一千人的工厂，通过采用人工智能流水线操作，他可能只需要10个人，其余的990人就会被解雇。

默里：我对这种发展前景也表示担忧，但是我觉得社会发展到一定阶段之后，机器代替人的现象不可避免。我想问的是，这些被替代的人会不会在不变穷的情况下，拥有更多可以自由掌控的空余的时间；佛教教义为这些拥有了更多空余时间的人给予一定的指导，或者提供一定的建设性意见？比如说人们可以利用空闲时间在龙泉寺里面修禅问道，过这种很有意义的生活。

贤书法师：大家都可以来龙泉寺修禅问道。

默里：所以问题就来了，怎么样让能鼓励大家精心修禅，而不是在家看一些特别无聊的电视剧呢？

贤书法师：我们制造了一个机器人，吸引大家前来。但是我关心的是，怎么才能让人工智能技术掌握在善良人的手中？

默里：首先来看，在西方，这些人工智能技术大部分都掌握在一些非常发达的公司，比如说谷歌和脸书等手中，我们可以认为谷歌和脸书公司的总裁的内心可能是善良的，但是问题在于一旦这些技术被广泛传播之后，它们就有可能会落入一些心术不正的人手中。

贤书法师：我觉得可以开展更多的活动，让更多的人接触、了解佛教。

默里：我也这么觉得，我也觉得大家也应该更多的了解并尊重佛教。

贤书法师：其实宗教和技术一直在赛跑。西方的一些恐怖活动实际上采用的是一些很原始的方法和武器。

默里：技术如果掌握在这些人手中的话，确实是对人类的威胁。如果不谈未来发展，只就目前的情况来说，现在就有一个问题，如何让人工智能的发展不介入目前的军事行动，这也是目前国际政治一直在努力的方向，避免在军事行动中采用人工智能技术，比如制造用于战争的机器人。

贤书法师：我觉得你应该邀请我们前往谷歌和脸书公司，和他们的那边的人谈一谈。

默里：今年10月在北京会有一场讨论人工智能未来发展情况的大会，方便的话希望邀请您也能参加。

我的书中有一章的内容是有关意识的。我对佛教也比较感兴趣，觉得意识与佛教有所联系，所以我想了解一下，在佛教当中，有没有对个人意识，比如人的价值观、人看待宇宙的看法存在一些独到的见解？

贤书法师：我认为就这个问题，将来应该进行更深入的交流。但我现在可以就你提到的另外一个问题给出一个比较具体的回答，也就是你提到的机器人代替人类工作的问题。