国家在AI治理中的角色和责任

国家在AI治理中的角色和责任

摘要：

对于政策制定者而言，基于人工智能的技术是一个重要的治理挑战。本文致力于探索和比较不同国家如何定义其人工智能治理上所承担的角色和在人工智能发展上所背负的责任。在 22 个国家和欧盟的不同政策工具中，政府对待人工智能治理的方式存在很大差异。通过分析一组政策工具，本文发现了多种人工智能治理模式，主要区别在于自我监管和基于市场导向的体制之间，以及创业型和监管治理方法的结合。本研究还表明，公共责任的界定在很大程度上独立于国家所选择的人工智能治理政策组合。因此，责任界定似乎是一个交叉问题，不能与国家对待技术的特定路径联系起来。

学人简介：

Christian Djeffal，慕尼黑工业大学社会科学与技术学院；

Markus B. Siewert，慕尼黑政治与公共政策学院；

Stefan Wurster，，慕尼黑工业大学巴伐利亚公共政策学院。

文献来源：

Djeffal, C., Siewert, M. B., & Wurster, S. (2022). Role of the state and responsibility in governing artificial intelligence: a comparative analysis of AI strategies. Journal of European Public Policy, 29(11), 1799-1821.

本文作者Christian Djeffal（左）、Markus B. Siewert（中）和Stefan Wurster（右）

引言

人工智能作为一套新兴技术，存在着在任何领域产生任何影响的可能。以社交媒体为例，这是一个在20年前几乎是不可想象的领域，但现在已经被人工智能的应用广泛驱动。通过内容审核系统，人工智能已经成为全世界人民的信息基础，用于信息交流、新闻消费和广告传播。不仅如此，人工智能应用可以被用来成为政治工具，比如通过传播假新闻来影响选民行为。而社交媒体算法本身可以创造出闭塞的信息茧房，成为极化、阴谋论和仇恨言论的温床。然而，人工智能又可以被当作这些问题的解决方案。由于人工智在推动民主化的道路上既能是垫脚石又能是绊脚石，关于如何治理人工智能的建议被热烈而广泛地讨论。

上文的例子指出了政策制定者在治理人工智能时的普遍窘境。与其他新兴技术相似，有很多理由支持人工智能的发展，因为它为经济增长、社会发展和生态进步带来了巨大的希望。然而，人工智能也引起了人们的关注，因为它反复出现了剥夺权利、不透明和问责制缺失的例子，以及它不断增加的能源消耗，以及它对社会和整个经济中现有权力结构的强化。

本文致力于研究政府在驾驭人工智能治理上所面临的挑战。通过分析22个国家和欧盟的国家层面人工智能战略、政策组合和监管制度，本文探讨了政府是如何通过治理以实现刺激创新、减少风险和承担人工智能的社会影响等目标。

国家在人工智能治理中的角色和职责

关于国家的角色定位和其在公共事务的发展上的责任界定是关于任何技术治理问题的关键。在现有理论工作的基础上，本文将技术治理和公共责任的不同模式概念化，从而指导我们做进一步的实证分析。

国家在人工智能治理中起到的作用，可以通过不同的维度来进行概念化处理。本文区分了两个分析维度。首先，政府可以在人工智能技术的发展中发挥积极主动的作用（强国家干预），或者他们采取更被动的姿态，退而求其次地在人工智能治理中给予私人参与者和/或市场尽可能多的余地（弱国家干预）。其次，政府可以专注于监管人工智能技术的潜在风险（封闭控制法），或者他们可以优先考虑部署人工智能，并认为他们的作用主要是促进其发展（刺激法）。

如图 1 所示，将这两个维度相交则创建了四种典型的治理体制，即：1. 创业型国家体制，2. 市场导向型体制，3.监管型体制，以及4.自律型体制。这四种体制在国家对技术治理承担角色的定义上各有不同。

图 1：人工智能治理的维度和由此产生的四种体制

创业型国家体制

由积极而强大的国家刺激人工智能技术的开发和部署的组合，这种国家类型类似于 Mazzucato (2011) 的创业型国家（entrepreneurial state）概念。与通常因国家创新绩效而受到赞誉的小政府、自由市场学说相反，Mazzucato 认为，在积极主动的国家作为主要风险承担者的基础上，对创新和技术的公共投资可以带来高创新绩效。因此，根据技术推动方法，创业型国家通过创建一个高度网络化的参与者系统，利用私营部门的优势，强调公共活动在基础研究中的作用 在中长期范围内为国家利益服务。国家作为催化剂和主要投资者，在网络中引发最初的反应，从而达到知识的传播。从这个角度来看，是国家积极地塑造人工智能等技术的发展，例如，作为研究和基础设施项目的发起者，或者作为特定技术解决方案的推动者或共同设计者，又或者作为主要客户和用户。

市场导向型体制

在国家干预程度上与创业型国家体制并列的是市场导向型体制，它依赖于最小的国家干预和通常不具有约束力或基于自治机制的软监管。从这个角度来看，私人参与者、公司和市场是技术创新的主要驱动力。另一方面，政策制定者和政府被描述为速度太慢且缺乏专业知识，无法在人工智能等高度技术和复杂的主题上做出谨慎的决定。此外，国家主导的法规经常被描述为通过不必要的繁文缛节抑制创新，而国家干预则符合需求拉动方法，这通常与低效流程和政府失灵有关。应用于人工智能领域，国家是以是“轻触式“（light-touch）方法介入，这意味着国家并非完全不活跃，但除了在市场严重失灵的情况下进行干预外，还使用柔和的、市场友好的治理工具以加强市场流程并为民营企业家创造回旋余地，以促进私营部门的人工智能创新。

监管国家体制

相比之下，传统监管国家的主要特征是硬治理工具和国家的直接干预。通过监管创新和技术，主要目标是保护公共物品并确保公民的安全。因此，政府和政策制定者不仅会在市场失灵时介入（即事后），而且会以积极主动的方式设计事前机制，并在此过程中恢复国家的监管权力。

自律型体制

最后，自律性体制涉及行业和领域内其他相关利益相关者集体努力自我监管并实施自我限制机制的想法。因此，国家的作用仅限于作为私人倡议的促进者、观察者或证明者来监管和治理人工智能行业，而不是直接参与。虽然治理的目标依然是风险预防，但这不是通过直接的国家干预来实现的，而是通过诸如行为准则、行业标准等软监管工具来实现的。

关于这四个治理制度，有两个重要的概念说明：

首先，所有描述的治理制度是韦伯意义上的理想类型，这意味着它们是程式化的抽象，无法以其纯粹的形式进行经验观察。本文将它们用作启发式方法，实际治理安排与这些理想类型的匹配程度如何是一个实证问题。

其次，与韦伯的概念不同，本文认为两个维度和四种状态类型并不相互排斥。例如，政府可以在人工智能治理的某些问题上采用促进自我监管的方法，同时在其他问题上表现出强大的企业家精神。或者一个国家的方法可能主要以企业家和市场导向的治理工具的混合为特征。

界定人工智能治理中公共责任的路径

关于什么是负责任的技术开发这个问题已经讨论了几十年，然而公共责任依然是一个有争议的概念。公共责任问题并不先验地与国家的作用联系在一起，因为后者没有反映政府和决策者在多大程度上对社会影响承担责任。

技术评估（Technology Assessment，简称TA）是界定技术公共责任的方法之一。通过专家对技术和知识生产的评估，基于普通用户的意见和关注重点 、程序方面预期和速度，或通过评估技术逐步实现的价值来对技术在实践的发展和转变中产生的公共责任进行评估。在美国通过 1972 年技术评估办公室的创建而制度化，随后通过许多国家都成立了的类似机构。

然而，由于各种原因，技术评估手段不断受诸如其静态和被动的方法，公民参与性的不足等质疑。一种替代方案被称为负责任的创新或负责任的研究与创新 (Responsible Research and Innovation，简称RRI)。RRI 旨在提供一种治理结构，解决技术研究、开发和使用的整个周期，并以更深刻的方式影响治理。在这种背景下，本研究区分三种对责任的态度：责任的尊重、技术评估的“正统”方法（TA）以及负责任的研究和创新（RRI）。

本研究试图将责任指标与特定技术脱钩，并以适用于政府战略的方式对其进行概括。表 1 说明了三种方法，它们显示了有关责任的行动水平不断提高。其中推迟责任（Deferral of responsibility）的方法根本不包含任何行动。TA 方法则需要国家采取措施维护社会利益和价值观。RRI 方法象征着最高的活动水平并包含责任的所有方面。

表 1：人工智能治理责任的形式

数据和方法：通过政府战略进行技术治理

人工智能治理在国家和国际层面的政府和决策者积极制定人工智能战略的政治议程中占据越来越多的空间，他们在其中制定了人工智能治理的目标和实现这些目标的方法。作为“元治理”的一种形式，政府战略履行多项职能，其中两项对本研究尤为重要。首先，它们可用于定义有关人工智能未来部署的核心目标。在这样做的过程中，各国政府指出了他们计划建立必要能力以成为人工智能革命先锋的问题领域和优先事项。此外，他们还就如何实现这些目标制定了各自的措施和机制。其次，政府战略表明对不同（群体）利益相关者的承诺，这些利益相关者是人工智能生态的一部分。这种信号涉及制定和遵守某些规范、价值观和标准，但也涉及与其他社会参与者合作负责任地开发人工智能的问题。通过分析官方人工智能战略，我们可以深入了解政府和政策制定者如何设想和设计国家在引导基于人工智能的技术方面的作用，以及国家对社会及其公民的责任。

我们的实证分析基于对来自 22 个国家和欧盟的国家 AI 战略中的政策工具的跟踪。我们进行了定性内容分析，以确定相关政策工具定义为政府旨在实现的任何手段、技术或机制 实现其与人工智能相关的政策目标。

研究结果 ：国家在人工智能治理中的作用

要想了解国家的人工智能战略，政府使用哪些政策以及国家在人工智能治理方面的作用是什么，首先需要检验一个国家在人工智能治理方面的活跃程度以及其最主要使用的工具类型。

人工智能治理活跃程度和政策工具的使用

政策工具的数量是衡量治理活跃程度的指标。研究发现平均每个人工智能战略有 83.7 个政策工具，尽管各国在管理人工智能方面的活动水平差异很大：中国是迄今为止最活跃的国家，有 219 个政策工具，其次是日本 (164) 和韩国 （114）。这三个国家的共同点是，它们都是数字化转型的先锋和人工智能的早期采用者。然而，这不是必要条件，因为匈牙利（135）、捷克（103）和塞浦路斯（101）也表现出高活跃性；尽管它们目前在数字化指数中排名较低。奥地利（10）、瑞典和法国（均为 21）表现出相对较低的活动水平，这对这三国而言是令人惊讶的，因为这几个国家通常被视为活跃国家的案例。

表 2 概述了用于人工智能治理的工具组合，其中基于行政权力、金融、组织和信息四类中的九种工具分类。

表 2 ：人工智能治理的工具组合

到目前为止，最大的一类是金融工具，共有 941 项政策措施，包括公共投资和财政激励措施。直接公共投资（816 项政策工具）对人工智能基础设施或政府资助的教育、卫生或公共管理等领域的项目占主导地位，而基于激励的金融工具（125）如减税以增加对人工智能的研究和采用 AI 或职业培训和继续教育的凭证很少被提及。

共有 298 份政策文件提及组织，涵盖网络和其他机构。这些工具涉及建立网络 (154) 以促进相关利益相关者之间通过行业协会、交流论坛进行对话和协作，以及建立机构 (144)，如道德委员会、咨询机构或政府人工智能指导工作组。

人工智能治理中的国家类型

为了对各自的治理制度进行更系统的分析，研究接下来转向对国家类型的探索。为了解决这个问题，本研究根据上文概述的四种治理体制绘制了四种理想典型的国家类型。表 3 概述了本研究如何根据国家的治理体制来预期它所显示的政策工具组合（可结合图 1 理解）。

表3：四种国家类型的预期政策工具组合

符合创业型国家体制的人工智能治理安排包括高于平均水平的与政府战略、直接公共投资、网络建设以及公众宣传和扫盲相关的工具。相比之下，以市场导向为体制的国家在很大程度上避免提出直接监管或进行直接公共投资。然而，这并不意味着完全放弃国家参与。相反，我们假设通过有利于市场的工具结合自发标准等软措施来促进有利的人工智能生态系统。监管型体制国家的特点是拥有高于平均水平的法律和其他形式的硬监管以及监督机构等机构的创建。此外，数据收集和监测工具应发挥重要作用，而网络工具应不发达。最后，自律性体制国家是由高于平均水平的与网络、证书和标签相关的工具的使用构成的，以使私人参与可见，同时退出直接监管、政府战略和公共投资计划。

表 4 和图 2 显示类型分析的结果。它为我们提供了理论定义的状态类型与人工智能治理中的经验观察模式的接近度。值越高，亲和力就越强。十三个国家人工智能战略与创业国家的概念有关。日本、中国和韩国对创业型国家表现出强烈的亲和力，还有几个北欧和中欧国家，如芬兰、荷兰、德国和匈牙利。而爱沙尼亚、捷克共和国、卢森堡和挪威的亲和力很弱。八个人工智能战略，即奥地利、爱沙尼亚、法国、立陶宛、卢森堡、俄罗斯、瑞典和美国，都与市场导向的国家有关。然而，接近度要低得多，俄罗斯（值为 0.61）和美国（0.58）显示出最高的亲和力。在与监管国家相关的 13 个国家中，印度尼西亚 (0.90) 脱颖而出，具有特别强烈的相似性，其次是挪威、马耳他、匈牙利和中国的人工智能战略。最后，九个国家可以被描述为促进自我监管的国家，瑞典、奥地利、俄罗斯和法国与这种国家类型最相似。

表 4：人工智能战略的国家类型特征

纵观这些人工智能治理状态类型的经验模式，有几点特别值得指出。首先，人工智能治理的国家方法确实类似于本文理论上定义的国家概念，因为所有政府战略都表现出与至少一种国家类型的高度相似性。其次，只有少数政府人工智能战略属于一种国家类型：在具有独特人工智能方法的四个国家（印度尼西亚、丹麦、欧盟和葡萄牙）中，印度尼西亚以其明确的强有力的监管方法脱颖而出。第三，我们观察到市场导向体制经常与自律型体制同时出现，而创业型国家体制经常与监管体制同时出现。这表明，一方面是市场导向和自律型体制，另一方面是监管和创业型国家体制，两方面在概念上存在着鸿沟。

图 2：人工智能策略的国家类型特征

总而言之，一个占主导地位的国家集团在他们的战略中发出信号，即一个积极主动的国家应该既促进又监管人工智能相关方面。尽管维度不平衡，因为一些国家更接近创业状态，而另一些国家更接近监管状态，但我们将这种组合的突出性解释为一个标志，即我们的人工智能治理安排的很大一部分 保护和促进这两个方面的样本都是至关重要的，国家的角色在这里被视为集体产品的保护者和生产者。

研究结果：政策工具使用中的公共责任

人工智能战略还揭示了政策制定者对公共责任的立场。本主题不一定与其中一种状态类型相关联。因此，在考察国家类型与责任之间的关系之前，我们先确定了每个国家对责任的总体立场。

人工智能治理中的公共责任的活跃程度和政策工具使用

对政策工具的分析揭示了各国在TA 和 RRI 之间的立场。RRI 工具的总数高于 TA，这意味着与正统的 TA 相比，这种方法变得更加重要。虽然没有完全尊重责任，但数据清楚地表明，在所有国家，大多数治理政策与公共责任没有直接联系。

表 5 列出了解决人工智能责任治理的政策工具的数据。总而言之，1829 份文书中有 400 份与公共责任有关，这意味着超过五分之一的政策措施（21.9%）提到了对人工智能的责任治理。然而，各国对责任的立场存在很大差异。特别是德国和立陶宛等国家，其次是北欧国家丹麦、芬兰和挪威，以及欧盟、卢森堡和荷兰，其政策工具组合中有 30% 至 40% 提到了责任。另一方面，我们发现俄罗斯、爱沙尼亚和匈牙利、塞浦路斯、印度尼西亚和日本在强调某种形式的负责任治理方面表现出低于平均水平的活动。 总之，在人工智能治理中需要在多大程度上确保责任，各国似乎有着截然不同的看法。

表 5：人工智能责任治理的政策工具参考

人工智能治理中的公共责任和国家类型之间的关联

最后，本研究感兴趣的是，不同的国家类型和监管制度是否也暗示着特定的公共责任概念？为了阐明可能的联系，研究将四种治理类型与人工智能责任治理的不同维度相关联。总之，结果表明，国家类型与责任承担之间的相关性相当低。

结论

对人工智能战略的分析使我们能够重新审视政府和政策制定者如何看待他们在技术和基于人工智能技术的公共责任方面的角色。研究表明，各国在治理活跃程度和特定政策组合方面处理人工智能治理的方式存在很大差异，既涉及所提议的政策工具，也涉及对责任的关注度。

本研究的主要发现之一是，市场导向型体制和自律型体制的国家与结合创业型国家体制和监管体制治理方法的国家之间存在巨大差异。另一方面，一些国家对一种治理体制表现出比另一种更密切的亲和力。这一重要发现对公共和政治辩论中的主流叙述进行了限定，决策者必须根据这些类型的特性在促进新兴技术或监管相应风险之间做出选择。至少在人工智能领域，大多数政府表现出两者兼顾的意愿。这种模式或多或少也适用于其他新兴技术，不仅从实证角度而且从进一步的理论发展来看都是至关重要的。它指出，无论国家主动或被动地参与治理都应该更多地置于新兴技术治理辩论的中心。相比之下，调节技术和促进技术之间的区别就不那么重要了。

同时，本研究发现，公共责任与任何特定的治理体制类型无关。因此，无论政府如何处理技术，它都是一个独立的政治和技术主题。人工智能战略在促进责任的工具中的参与程度差异很大。但是，所有策略都包含某种形式的责任。基于各自的论述，都强调了政府在考虑责任的实施时认真采取参与和主动行动的事实。

©Political理论志

编译 | 汪浩东

原标题：《国家在AI治理中的角色和责任 | Journal of European Public Policy》

阅读原文