国家新一代AI治理专委会委员曾毅：中外治理“和而不同”

如果你关心人脸识别技术，你应该还记得不久前换脸小程序ZAO红极一时。但随后这项技术背后的隐私保护和数据安全问题被爆出有大漏洞，这款应用也随之被叫停。

从火爆互联网到后面快速消失，ZAO的命运更多的是中国对人工智能问题的一个缩影。当技术带来新奇、创新、便捷时，它真的是安全、可控和符合人类道德伦理的吗？

在7月10日召开的世界人工智能大会“人工智能治理论坛“上， 中国科学院自动化所研究员、北京智源人工智能研究院AI伦理中心主任、国家新一代人工智能治理专委会委员曾毅提到，AI伦理原则并不仅仅是讲我们应当做什么，不应当做什么，其本质是在讲我们应当走向何方。

今年6月份，联合国推出了《数字合作路线图》（下称“路线图”），倡导人工智能伦理与治理全球协作，形成国际共识。与此相关的另外一项重要工作便是联合国教科文组织在全球遴选的24位专家组成的AI伦理特别专家组正在制定的“全球人工智能伦理建议”，目前该建议已形成草案并正在进行全球意见征集阶段。曾毅是专家组中三个工作组的伦理工作组共同组长。据他透露，联合国各个相关机构还有非常多关于人工智能治理和伦理的努力，并且认为一定要在全世界范围内行成共识。

在曾毅看来，中国人工智能的发展已经受到了全球瞩目，但绝大多数国内企业针对AI治理的努力尚处早期，类似旷视科技这样的企业推出自己的AI准则，成立AI道德委员会尚数少数，并值得鼓励。

中国能否与全球其他国家就人工智能的治理达成共识？国内的AI企业如何进行自治，AI治理的意义究竟在哪？带着这些问题，澎湃新闻在会后采访了曾毅。

和而不同

人工智能是一项创新和颠覆性的技术。人工智能领域里的任何创新一旦成功，可以非常迅速地改变社会。这种改变不会仅限在一个国家，而是会作为一项技术服务进入到世界上几乎所有人的生活中。

在这样的背景下，曾毅认为，人工智能伦理和治理，一方面是治理的社会和技术双落地；另一方面是不同国家和不同地域文化背景下，人工智能的伦理和治理如何产生有共识的问题。

据曾毅介绍，近几年，不同的公司、企业和科技机构、政府以及政府间组织提出了不同的人工智能伦理原则。当2019年5月国内最开始提出《人工智能北京共识》时，西方媒体非常意外，认为中国提出的人工智能的原则和西方提出的并没有太大差异，中国并没有回避个人隐私、人权这些主题，反而在西方关切的若干主题都有明确观点。

从这一点看，中国与西方在人工智能治理上的理念是存在相当多共识的。“很多特殊的场合，西方某些学者和媒体还会渲染中国人的想法和他们的不一样，但其实没有那么不一样，大家如果去读那些伦理原则就会知道，实际上共识远远大于差异。我们要寻求共识、扩大共识、管控分歧、缩小分歧” 曾毅说。他表示，这实际上就是针对AI治理，国内和海外存在的和而不同。

多方共同治理

有了共识后，要真的将AI治理问题执行下去，曾毅认为需要企业、政府以及学术界共同的努力。“在治理层面，我们强调多方敏捷治理或者翻译为多方自适应治理。”曾毅说。

一方面是企业自律，比如旷视科技成立了自己的委员会和治理研究院，在自己的产品部门里有专门的研究员与技术团队深入协作来实现AI伦理相关的考虑。

另一方面，学术界、产业界的共识很重要，同时，政府顶层设计和规划也是重要一环。曾毅认为，如果只是靠科学家共识，没有到企业的落实或者企业的呼应；或者说如果只是科研和产业界的共识，而政府没有顶层导向，那么都很难在全社会的不同维度形成更有效的治理。

曾毅说：“此外敏捷和自适应主要体现在治理原则的制定与实施也要紧密结合技术的发展，采取最有效的方式应对最新的发展和新场景、新情况”。

AI治理的意义

对于企业来说，他们是参与人工智能治理的关键一环，也是具体准则的践行者之一。但要参与治理意味着企业前期的投入是巨大的。同时，治理规范的培养并非短期就能见效。

那么对于企业来说参与AI治理的意义在哪里？曾毅说：“首先发展改变社会的技术，愿景仍然应是积极向善的，这决定了企业能够走多远”。此外曾毅在采访中举了一个例子。2018年，当《通用数据保护条例》（GDPR）在欧盟发布时，欧洲几乎没有人工智能企业欢迎，因为企业觉得这需要花费大量额外的工作，并且没有看到直接的收益。但GDPR实施了以后，这些符合GDPR规范的企业用户数都有大量的增长。 用户的回馈是，因为企业遵循了GDPR，更值得被信赖。

曾毅表示，“从GDPR的例子看，一开始，公司真的都花了大量的精力进行规则落地，但是收获的是更多用户对他们的信赖，我想这样的收益是企业未曾预期的”。