英国医院向人工智能公司共享160万病人信息被认定违法

澎湃新闻记者 王歆悦 综合报道

2017-07-04 16:12 来源:澎湃新闻

字号
机器深度学习正在面临一场关于信息安全的考验。
格林威治时间7月3日,英国信息委员会宣布,英国伦敦皇家自由医院与谷歌旗下的人工智能公司DeepMind的一次合作违反了英国的信息保护法案,侵犯了160万病人的隐私。
伦敦皇家自由医院(Royal Free)是英国国家医疗服务系统(National Health Service, NHS)基金会的一部分。DeepMind与NHS正在合作开发一款名叫Streams的健康保健App,它可以对人体系统的急性肾损伤进行诊断和检测,并向用户发出提醒。
英国信息委员会的判决基于的事实是,NHS与DeepMind“不当地”共享了160万病人的病历记录,未向这些病人告知其数据将被用于测试新的移动应用程序。
英国信息委员会委员Elizabeth Denham在一份声明中表示:“病人们不会想到他们的信息会被派这个用途,NHS应该更透明地处理病人的信息。”
这款从2015年11月开始测试的App可以被用来诊断和检测人体系统的急性肾损伤,不含有任何人工智能技术。DeepMind这次只是开发了Streams这个处理数据的软件,使用NHS已有的算法,这款软件能够对血液检测等结果进行分析,一旦发现病人有患病风险,App就会向医护人员推送提醒。
对于指控,DeepMind公司方面表示,其必须掌握伦敦皇家自由医院所有病人近5年的病历数据,即使那些病人目前已经不在医院接受治疗。伦敦皇家自由医院将此信息共享给DeepMind的法律依据叫做“直接医疗”(direct care),即信息共享是为了给病人提供更好的治疗。在这种法律依据下,医护人员就不需要病人明确同意就可以将其信息进行共享。
经过13个月的调查,英国信息委员会发现,皇家自由医院在处理患者数据时,存在“多项不足”,于是根据卫生署顾问的建议,委员会判决“直接医疗”在共享此类信息的情况下不能作为法律基础,医院应该在与DeepMind共享信息前征求病患的同意。
委员会还认为,DeepMind测试App时,主要是想知道App本身运作是否正常,以及医护人员是否喜欢软件的界面,而非致力于完善检测病患的结果。另外,皇家自由医院和DeepMind也无法合理地解释为什么DeepMind需要搜集如此大量的病患信息来测试这个应用。
“创新不需要以牺牲基本的隐私权利作为代价。”Denham表示。
英国信息委员会已经责成皇家自由医院颁布新的政策,确保再与DeepMind共享信息前,妥善征求病患的意见,并在3个月内向监管部门提交政策已经到位的证据。皇家自由医院也已经同意由第三方进行监督,并向监管部门报告。
在7月3日的官方博客文章中,DeepMind承认,公司在与皇家自由医院的合作中犯了“好几个错误”,它也欢迎英国信息委员会提出“周全的解决方案”,希望这些方案能够保证Streams后期使用患者信息时的安全与合法性。
2014年,谷歌公司(当时还没有更名为Alphabet)以4亿英镑的价格收购了人工智能公司DeepMind。这在当时是谷歌在欧洲进行的最大手笔收购案,而DeepMind当时还没有公开发布过任何产品。
尽管DeepMind因围棋人工智能“阿尔法狗”一炮而红,其在健康领域也已进行诸多探索。
今年2016年2月,它就推出DeepMind健康项目(DeepMind Health)。同年7月,DeepMind又宣布,公司正在探索怎样使用机器学习,以达到通过虹膜扫描来识别一些眼部疾病征兆的目的。
2016年3月,DeepMind创始人戴米斯·哈萨比斯(Demis Hassabis)向媒体表示,公司使用的人工智能可以被用来进行医疗的诊断、追踪重要的疾病症状,同时帮助人们形成更健康的生活方式。
在此之前,谷歌也早就开始筹划一场医疗行业的革命。2013年,谷歌宣布成立独资的IT医疗公司Calico,并聘请了世界知名的生物系统专家、曾掌管世界最大生物制药公司基因泰克的阿瑟·李文森博士担任CEO,意在利用大数据和其他IT技术设法延长人类寿命。
责任编辑:王歆悦澎湃新闻报料:4009-20-4009   澎湃新闻,未经授权不得转载
关键词 >> DeepMind, 谷歌, 隐私, 信息安全, 科技, 澎湃, 澎湃新闻

继续阅读

评论(15)

热新闻

澎湃新闻APP下载

客户端下载

热话题

热门推荐

关于澎湃 在澎湃工作 联系我们 版权声明 澎湃广告 友情链接