澎湃Logo
下载客户端

登录

  • +1

可辨别性取向的人工智能引发争议,专家称应用需符合伦理道德

澎湃新闻记者 于潇清 刘乐凯
2017-09-14 17:54
来源:澎湃新闻
全球速报 >
字号

据美国NBC新闻9月13日报道,近日,美国斯坦福大学的一项研究表明经过开发人工智能未来可通过分析人的脸部照片来判断这个人的性取向。而这项研究目前已经在美国引发了争议,目前正面临相关的调查。

据悉,该项研究由美国斯坦福大学的两位专家迈克尔·科辛斯基(Michal Kosinski)和西蒙·王(Yilun Wang)主持展开。此前研究成果已经由美国心理学会下属期刊《人格与社会心理学》(Journal of Personality and Social Psychology)杂志最初刊发。上周,《经济学人》杂志对此做了报道后迅速引发争议,美国心理协会的发言人13号证实学会方面目前正在就此项研究展开相关调查。

据此前刊发在《人格与社会心理学》杂志的文章摘要显示,该研究的题目为,“深层神经网络比人类在通过图像检测性取向判断中更准确。”研究涉及建立一种计算机模型,以识别研究人员将其称作为同性恋者的“非典型”特征。

在摘要中,研究人员写道,“我们认为人们的脸部特征包涵了更多人脑所无法判断的性取向特征。根据一张图片,系统(classifier)可以以81%的准确率区分男性同性恋者,74%的准确率区分女性同性恋者,这比人脑可以完成的判断准确率都要高。”

目前,该研究已经在美国引发争议,并引来了多个美国同性恋平权组织的抗议。据NBC新闻13日报道,美国GLAAD组织首席数字官吉姆·哈洛伦(Jim Halloran)在一封公开信中表示,“技术无法识别人们的性取向,所谓的技术未来只是识别出网络中同性恋者头像存在相似的某种模式。”

即便如此,也有学者就此项技术的伦理与道德展开质疑。美国麻省理工学院教授雪莉·图尔克(Sherry Turkle)表示,未来谁来拥有这项技术,谁又拥有检测结果是一个问题。图尔克推测,如果这个技术真的能准确判断出性取向,那么将从制度上使得对同性恋者的歧视更有效率。

对此,主持研究的专家Michal Kosinski也在个人社交媒体上做出了初步回应,表示很高兴看到自己的研究成果“引发了讨论”。并在声明中表示目前对他们的批评主要来自“缺乏科学培训的律师以及通讯员”。

加州大学伯克利分校电气工程与计算机科学学院教授詹姆斯•F•奥布莱恩(James F. O’Brien)日前在2017全球人工智能可持续发展高峰论坛上接受澎湃新闻(www.thepaper.cn)采访时表示,技术是中性的,人工智能技术的应用说到底,需要符合人类社会自身的伦理和道德。

奥布莱恩分析指出,“在设计人工智能程序时,就需要考虑到应用阶段可能出现的各种情况,以及无论是正面还是负面的效应。”

不过,也有学者提出了对这项技术的支持。卡耐基梅隆大学道德与政策中心主任亚历克斯表示,“我认为更重要的是强调这项研究未来可以广泛使用以及容易获取。我无法想象未来有谁能够将大数据与人工智能的技术装回盒子中,用偏见来指责技术发展。”

    校对:刘威
    澎湃新闻报料:021-962866
    澎湃新闻,未经授权不得转载
    +1
    收藏
    我要举报

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602000299号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2024 上海东方报业有限公司

            反馈