谁应该对AI导致的死亡事故负责?

你敢让AI医生给自己做手术吗？你能接受AI法官给你判案吗？当自动驾驶汽车出了事故，该怪谁？随着AI技术的迅猛发展，它的应用越来越广泛，但随之而来的伦理问题也愈发凸显。今天，我们就来聊聊AI背后那些值得深思的事。

如果AI比人类更优秀……

与生命科学的迅猛发展一样，以AI为首的信息科学的迅猛发展也向我们提出了各种各样的伦理问题。

现在，可以瞬间完成高级信息处理的AI已经广泛应用于社会的各个领域。例如，目前正在研发能够从内镜、放射检查等医学影像中瞬间发现可能发生癌变部位的AI。学习了大量图像数据的AI，甚至能毫不犹豫地指出人类医生可能会忽略的小病变。目前，AI还局限于辅助人类医生，但今后如果“AI医生”能够比人类医生更准确地进行诊断，会发生什么事情呢？

在信息处理的速度、数量和准确性等方面，AI远远超过了人类的能力。在这些能力至关重要的工作中，AI将逐渐取代人类。随着AI技术的发展，AI可以从事的工作范围将稳步扩展。

首先，会出现希望由“AI医生”而不是人类医生进行诊断的患者。人们可能会对人类医生的诊断结果持怀疑态度，医生的部分工作可能会被AI取代。

不难想象，AI不仅能进行诊断，还能实施手术。如今，腹腔镜手术等是由人类医生操控手术机器人进行的，将来则可以由掌握了人类技术的AI实施。与诊断一样，患者也会希望由行动迅速且准确的“AI医生”来实施手术。

AI自身不能承担责任

随着AI在社会中的应用日益广泛，如果AI出了问题，应该由谁承担责任？如果“AI医生”误诊或手术失误、自动驾驶汽车出现交通事故，谁应该承担责任？

说到底，AI只是计算机程序，因此，AI自身是无法承担责任的。以汽车为例，如果因刹车等汽车本身的缺陷而发生事故，汽车制造商需要承担责任。但如果是因司机操作失误而导致事故，则司机（使用者）需要承担责任。类似自动驾驶汽车等配备了AI的产品能自主运行，因此，使用者的参与会变少。到底应该由AI制造者承担责任，还是使用者也需承担责任，众说纷纭，争论不断。

AI可能会助长差别和偏见

随着AI的应用日益广泛，AI也被用来对人类进行评价。例如，由AI代替人类对体操比赛等打分，或在企业招聘活动和人事评价中使用AI等。但AI的判断可能存在偏见，这已经成为伦理问题。

AI是以学习的数据为基础进行各种判断和处理的。如果学习的数据有偏差，就会形成反映这一偏差的AI。例如，开发体操打分AI时，会让其学习过去的表演及评分。如果里面包含给特定种族或国家的运动员打高分等偏见（人类评委的偏见），学到这一点的AI可能也会继承偏见。

招聘活动及人事评价所用的AI也有可能出现同样的问题。如果将来出现“AI法官”，可能会对特定性别、年龄、背景的人做出不利的判决。AI的偏见会破坏伦理上的公平，是应该解决的问题，但AI的“内部机制”非常复杂，因此能否从根本上解决这一问题，目前还不确定。

欧盟批准世界上首部AI监管法规

究竟在多大程度上允许AI进入社会，亟待讨论。偏见问题和学习数据中使用的个人信息（隐私）问题一直困扰着现在的AI。2024年3月，欧洲议会批准了世界首部全面监管AI的法案——《人工智能法案》，禁止将AI用于社会信用评价（社会评分）等用途，考试和招聘所用的AI需要使用适当的学习数据以避免产生偏见。

日本目前还没有AI监管法规，但内阁政府在2019年出台了“以人为中心的AI社会原则”（见下图），列出了随着AI不断进入社会，应该注意的7个原则。例如，AI的使用不能侵犯宪法及国际法规所保障的基本人权，即“以人为中心的原则”。

 以人为中心的AI社会原则——为了让社会接受并理性使用AI，应该注意的七个原则 

一般来说，美国允许相对自由地进行AI等新科学技术的研究，欧洲则非常谨慎。对于AI的开发与使用，我们是应该进行规范限制，还是在一定程度上允许自由研发？你是如何看待的？

允许AI杀人的致命性自主武器系统

欧盟批准的《人工智能法案》中，以研究为目的或用于军事、国防的AI，基本上不受监管。没有人类直接干预而自动攻击敌人的AI武器被称为“致命性自主武器系统”（LAWS），如通过AI自动识别并攻击敌方士兵的无人机武器就属于这一类。目前，针对这类武器的开发和使用，国际上尚未制定出统一的监管规定。2023年12月，在联合国大会上，一项呼吁应尽快应对LAWS问题的决议以多数赞成通过。

LAWS赋予了AI杀人的许可。使用LAWS时，也有人担心，误操作会造成平民受害扩大，以及由于自己一方的士兵没有牺牲而不会对杀人产生良心上的谴责，从而降低了战争的门槛。是否允许AI杀人，这是一个很大的伦理问题。

 理性思考什么是正确的 

就像20年前我们很难想象AI会发展到如今这样的程度一样，我们也很难想象20年后的AI将会取得怎样的进展。AI的发展速度如此迅速，以至于存在着伦理问题悬而未决的情况下，其应用却不断扩展的风险。虽然我们不能放弃追求使用AI所带来的便利和好处，但不妨考虑一下：在这个过程中，是否潜藏着某些伦理上的问题？