我们测试了4222条私信，有人回复“用户已经自杀死亡”

原创： 朱廷劭 我是科学家iScientist

当我们享受着现代生活便利与美好的同时，还有一些人群，正在默默承受生活的茫然、无助甚至绝望。中国科学院心理研究所研究员朱廷劭老师所做的事情，就是默默蹲守着一个树洞，识别出有自杀倾向的人，然后对他们说：且留一步。朱廷劭老师带来分享《如何用人工智能技术，让站在悬崖边缘的人“且留一步”？》。

以下为朱廷劭演讲实录：

我是朱廷劭，来自中国科学院心理研究所。我们希望能够通过技术手段，向处于自杀困境中的人提供帮助。

我虽然来自中科院心理所，但其实是纯计算机背景，我的本、硕、博都是计算机专业。

我博士毕业于中国科学院计算技术研究所，当时是做语音合成。大家经常听到的“倒车请注意”就是合成的，只不过合成效果比较差。我们希望能够通过人工智能学习到人们说话的韵律规则，从而提高合成语音的自然度。

从国内毕业之后，我去了阿尔伯塔大学（University of Alberta），属于加拿大人工智能领域排名前三的学校，阿尔法狗（AlphaGo）、阿尔法零（AlphaZero）的主创人员就是这个学校的AI组毕业的。我在加拿大主要研究推荐系统，希望通过对人浏览网页时的行为分析了解他的信息需求，然后从全网找到能够满足他需求的内容。这里面就涉及到对人的行为分析，所以后来我就逐渐接触心理学，希望能够更多地了解它，然后把它跟计算机结合在一起。

2012年，我到了中科院心理所。结果发现，心理学和计算机是两个完全不同的世界，其中的差别可能超过中国南方和北方。经过几年的磨合，我觉得现在还算适应。

我在心理所的主要工作，就是把新的计算机技术运用到心理学领域，去结合心理学的研究或者实践。比如通过对人的一些行为分析（包括步态、面部、语音分析），去了解他的心理状态，就像我们经常说的“读心术”。当然，我们这个是科学研究， 不是迷信。

比如，我们想通过分析中国几千年的文言文，去了解古人个体主义和集体主义的心理变化特征。从结果来看，先秦时期的个人主义比较强大，但随着朝代的变迁受到了不断增强的压制。

由此，我们也试图解释“李约瑟之问”：为什么中国在明朝后期出现了资本主义萌芽，却没有出现资本主义发展？我们觉得可能与个体受到长期的压制有关。

除此之外，我们也做一些线下精神疾病的诊断。由于以医生的主观诊断为主，我们有时也能看到报道上说“被精神疾病”。那么，有没有可能利用技术的手段辅助医生做出更科学的诊断？

如果我们现在问大家：你有没有精神病？

你肯定回答：我没有精神病，我很正常。

心理学里面有一个概念，“社会赞许性”——我们每个人都想把自己好的一面表现出来。因此，回答也可能是假的，不过一些语音、面部和步态的行为指标（还包括各种各样的行为）很难掩饰。所以，我们想利用人工智能的办法对人的行为进行分析，以此了解他的精神和心理状态，从而为精神疾病的诊断提供辅助。

人工智能确实可以帮我们做很多事情，我们国家也在大力推进人工智能发展，但它不是万能的。

比如，上面两句话看似没问题，但其实包含了自杀意念的表达。“走饭”是在2012年3月自杀的一个南京女大学生，“饭饭”是对她的昵称。在她走后，她的最后一条微博成了树洞，有很多人下面留言。根据2017年2月《冰点周刊》的统计，当时有58万条留言；现在已经超过100万条了，并且每月增加的速度非常快，大概有6000多条。

2012年到2013年期间，网上有特别多的自杀案例报道。由此我们就想，有没有可能对人的自杀意念或者可能性做出识别？这样或许可以为自杀干预和预防提供帮助。

我们一般会认为，自杀是个人选择，干预没有必要。但是从研究中来看，其实将近80%的人并非觉得没有必要，而是不知道向哪求助或者如何求助——他遇到问题但不知道该怎么解决，可能自杀是唯一的选择。虽然目前社会上有很多自杀干预和救助热线，但在某些情况下，求助人是一边割腕一边打电话，为时已晚。那么，有没有可能把干预尽量前移，在他刚开始有自杀意念或想法的时候就提供及时专业的指导，帮他解决问题，不要等事情不可挽回的时候再去想办法补救。因此，就需要我们及早主动地去发现那些自杀意念者，而不是被动等待他们打来电话。

我们以前尝试过人工标注，结果发现工作量特别大，太多的负向信息对工作人员影响也非常大。我们统计了一下，两三千条数据人工标注大约需要一周甚至两周，可能就已经来不及了。

我想利用人工智能技术对网络上的信息做及时自动的识别，让我们知道某个人是否具有自杀意念。不过其中也有个疑问：人工智能到底能不能做到？

举个例子，这是两个人逛商场的行为轨迹，大家觉得哪个是女性？

显然是右边。

大家虽然没有看到照片，也没有看到这两个人的身份证号，但却能够根据行为指标判断出性别。除此之外，如果把这些商铺的名字列出来，还能大致知道他们的收入情况。

所以，我们根据一个人的行为指标，完全可以对他的某些个性特点做出自动判断，在人工智能里边的方法就是机器学习（Machine Learning）。为了对自杀意念做出识别，我们根据不同紧急程度做了一些标注，分为有意念、有计划、有实施三类。我们希望通过人工智能的办法，通过对这些短文本的分析（以前的自杀识别基本上是基于篇幅比较长的遗书和遗言），去了解背后有没有自杀的意念。我们通过模型的优化以及自然语言处理技术和人工智能技术的学习，识别准确率最后能达到84%。现在我们正在跟百度合作，希望能够用更复杂的人工智能技术提高预测精度，节约人工的时间。

到此为止，其实从做研究的角度来讲就差不多了，写文章也足够了。但是我们想再往前推进一步，跟自杀意念者联系交流。

我们当时就遇到一个问题：怎么跟他们沟通？

一种办法就是广而告之，向他的亲朋好友发信息，让大家赶紧关注他。英国学者在早期做过这样的工作，结果因为侵犯隐私很快被停掉。我们当时觉得，这种方式可能会引发其他人对他的偏见，会完全磨灭他以后主动求助的可能性。除此之外，我们也觉得要保护他的个人尊严。

我们之前接触过一个案例，一个小女孩跳楼自杀，虽然最后被救下来了，但后来她说，如果以后再跳楼，会找一个其他人绝对找不到的地方。也就是说，她再次实施自杀的方式可能特别决绝。我们希望能够用更好的办法，在保护他们的隐私和尊严的情况下开展交流。

最后，我们选择了微博私信的方式。私信是一对一的邮件系统，在系统前台根本看不到交互，我们的系统曾经还差点因为日活量太少被关闭——其实，这两年多我们后台有16万的交互。

我们经常在网上接收到垃圾消息，一般看都不看就删掉了。那么，如何能保证这些人会点开看？2016年的3月到9月，我们给看到发表过有自杀意图微博的用户发了用户实验的邀请信，想了解有自杀意念的人需要看到什么样的信息。其实，邀请信的内容也是干预内容，这张截图就是我们第一次发出来的信息。

发出去后，我们心里非常忐忑，因为现在网上有很多键盘侠，不管你做什么总有人骂；而这个又涉及隐私，特别敏感。我们非常担心会被推上热搜，弄成一个舆情事件，科学院再问责，所里边找我麻烦，最后就做不了了。

我们给4222个用户发出信息，并且收到了一些回复。看到回复内容后，我们松了一口气：很多人给我们发来感谢，只有个位数的回复特别负面，不过这很正常。但是有一位微博用户，他的亲人给我回复说他已经自杀死亡了。也就是说，半年之内这个人有过自杀表达，最后真的自杀死亡了，当时给我们的震撼很大——虽然我们发了私信和转介信息，尽到了责任，但是并没有达到一个好的效果。我们就想，有没有可能更进一步地直接提供干预信息，真正地帮助他们。除了热线转接之外，我们还增加了在线的心理测量和自助干预项目。心理测量不同于网上的娱乐测试，是通过专业的手段让他们知道自己当前的情况究竟如何。而自主干预是因为我们发现很多人不愿意跟人讲话，而是愿意跟机器交流。

同时，我们也招募志愿者（我们希望他是三级以上咨询师，因为是非常专业的交流，有时候可能会影响到个人），特别要求他们用统一的账号进行交流，在保护对方同时也保护自己。

所以整个流程就是：用计算机的办法去抓取到数据，然后用训练好的模型识别出有自杀意念的用户，并且也进行人工的核查。

当时做用户实验时，有人立马回复私信，他说觉得自己很正常，从来没有说过有自杀意念的话，为什么还会收到这样的信息？后来我们找了一下，发现这个人是在某个地方说过，但是他自己的微博上没有，于是我们就把那句话粘贴过去回复他。

这件事情让我们很警觉，因为如果全用计算机会有误差，而误差一旦出来，互信就彻底被打破了。所以，我们的每一条私信必须保证是发给了确确实实有自杀意念的人。

通过私信的发送和交互，我们能够提供及时的干预信息。志愿者会做一些简单的评估，最后能看到他心情的变化，降低自杀的可能性。

私信究竟该发几次？不能每次都发，否则就是骚扰；以前也从来没有可供借鉴的研究成果。我们通常讲事不过三，但是又觉得可能很多人不看，所以后来定了五次。

从结果来看，虽然有人从来不回复私信，也没有跟志愿者交流过，但是这几次的发送使得他觉得有人在关注他，能够感受到来自社会的支持——这有可能是他克服困难的最大动力。

两年内，我们一直在推进这项工作。我们特别统计了跟志愿者有过交流的人，一共有3733名，想了解他们的反馈怎么样。

首先，他们的态度大多比较积极（77%），消极态度的比例也在合理区间内（10%）。除此之外，他们跟志愿者交流的内容，主要是想了解一下救助方法，或者说明自身情况。我们觉得这种办法能够激活他们向外界求助的动机，是非常重要的一步。

有一点，我们一直很关注：到底是哪些因素导致了自杀的发生？国外的研究说自杀90%是长期精神疾病导致的，而国内一直都有质疑和争论，认为没有到这个数。

从我们的结果来看，在所有有自杀意念甚至付诸实施的人群里，接近一半的人是精神健康的，他们面临的最主要的问题是家庭问题，这是非常令人惊讶的结果。除此之外，还有一些因素也会导致自杀的可能性，比如工作、学习、婚恋，包括受欺凌、甚至是被性侵的经历。我们也研究了自杀意念者向谁求助。结果发现，有一半的人从未寻求过帮助。而且在求助人群里边，家人不仅不是第一位，而且比例甚至低于陌生网友。很多时候我们认为家庭是一个人最主要也最重要的资源，但是在最危机的时候，家人不是第一位的，这是需要我们反思的一个问题。

我们需要有更好的家庭教育，包括生死教育。前段时间上海的初中生跳桥事件，可能并不代表他真的就想自杀，有可能他是通过这种行为去表达对家人的不满，但他没有想到跳桥那刻之后就无法挽回了，我觉得他没有接受很好的生死教育。

除此之外，青少年和老年是自杀的重灾区。中国农村50岁以上的老年人自杀比例非常高，因为他们没有手机，也不上网，丧失劳动能力后就认为自己成为了家庭的累赘。

除此之外，我们也看到中国的自杀情况跟国外不太一样，有中国的特点，所以也需要研究适合中国人群的自杀干预方法。

另外，我们觉得自杀并不仅仅是心理问题导致的，其实包含很多的现实问题，所以它也是一个社会工程，需要整个社会一起努力去解决自杀问题。

虽然我是学计算机的，但我也认为人工智能只是个技术。它可以帮助我们，但其本身无法解决自杀问题。下面是一个网友对我们工作的评价，我觉得特别贴切——

我们希望能够用基础的办法，去把专业的方法和手段有效地传达到需要的人群中，让他们用更专业的方法去应对自己的问题。不管最后结果怎么样，我们都希望他们能够在自己的世界里边幸福安康。

谢谢大家。

演讲嘉宾朱廷劭：《如何用人工智能技术，让站在悬崖边缘的人“且留一步”？》

作者：朱廷劭

编辑：麦芽杨、凝音