张翰林丨人工智能审判何以成为可能？—— 人机协同司法审判模式初探

原创 张翰林 上海市法学会 东方法学

张翰林

上海财经大学法学院博士研究生

要目

一、AI在司法领域内的多层次探索及运用

二、AI与司法之间的抵牾

三、AI审判何以成为可能？

四、AI审判模式选择

结语

人工智能技术的广泛应用为我国司法领域的发展带来新的契机，不同程度的人工智能技术对司法领域的影响也不尽相同。人工智能对司法领域的探索引发了对人工智能是否适合司法审判的争鸣，主要体现在将两者置于二元对立上造成不可调和的矛盾。从争鸣中挖掘人工智能与司法审判融合导致理论冲突的原因，通过分析其所以然消除人工智能与司法审判两者在统一运用时在理论或实践中产生的抵牾，需要从支撑人工智能司法审判系统的三要素出发确立人机协同司法审判模式，并确立人机协同司法审判模式的基本原则，从而扬长避短，真正实现人工智能技术对我国司法审判司法专门化发展的促进。人工智能（artificial intelligence以下简称“AI”）的发展和相关技术的普及，带来了社会生活方式的巨大变化。人类在利用AI发现和改变世界的同时，AI也在不断地改变人类的生活也与人类生连接得越来越紧密，出现了“融合”的趋势。换言之，在技术进步和人类创造的背景下，人与AI协同进化的进程继续发展。

从2G（2-Generation wireless telephone technology）时代简单文字的传输，到3G（3rd generation mobile communication technology）时代图片的快速传输，再到4G（4th generation mobile communication technology）时代视频快速传输，在到现在迈入5G（5th generation mobile communication technology）时代的低网络延迟和高数据传输率，数据呈现几何级数的增长。依托处理器、芯片更新换代不断扩展的算力和随着科学研究不断深入而不断开发的算法——支撑AI发展的三驾马车的迅猛发展。这使人们看到了AI发展势不可挡的趋势和其在社会应用方面的巨大潜力，也开启了在司法领域的探索。

一、AI在司法领域内的多层次探索及运用

AI在司法实务领域的价值探索

随着互联网的发展和普及，最高院实行裁判文书上网的相关规定，从《最高人民法院关于人民法院在互联网公布裁判文书的规定》（法释〔2013〕26号）到经过修改通过后的《最高人民法院关于人民法院在互联网公布裁判文书的规定》（法释〔2016〕19号），此外2016年最高法通过《人民法院信息化建设五年发展规划（2016-2020）》和《最高人民法院信息化建设五年发展规划（2016-2020）》。要求尽快建成以大数据分析为核心的人民法院信息化3.0版，促进审判体系和审判能力现代化，同年7月，中办、国办发布并实施《国家信息化发展战略纲要》，提出建设“智慧法院”，2017年最高人民法院印发《关于加快建设智慧法院的意见》（法发〔2017〕12号），对加快建设智慧法院工作进行整体布局。2021年全国两会《最高人民法院工作报告》提出“坚持司法改革与信息化建设融合”“加强互联网法院建设”，推进智能法院的建设发展。

在实务领域，最高人民法院和地方法院纷纷探索AI应用到司法领域的可能路径。2016年11月最高人民法院组建中国司法大数据研究院和中国司法大数据服务网，主要提供专题深度研究、司法知识服务、涉诉信息服务、类案智能推送、智能诉讼评估、司法数据分析等六类服务。总体来说，各地法院也在不断探索AI在司法中的应用，依据不同的支持面向，可以分为基础支撑层、技术支撑层和司法应用层三个层次。

在基础支撑层，主要通过大数据汇聚信息，提供已有信息的检索，对司法提供相应的支持和建议。以裁判文书网为例，裁判文书进行网上公开后取得了显著的效果，据统计，截至2021年4月27日，中国裁判文书网访问总量已突破604亿次，文书总量突破11亿份。既落实审判公开原则，起到规范人民法院在互联网公布裁判文书工作，也从内容方面提供了规范司法和参考的价值，提升司法公信力。

在技术支撑层，主要依据人工智能系统结合法院审判场景进行一些机械化的工作，从而替代一部分原本由人进行的环节和活动。如通过语音识别技术和图像识别技术对庭审过程中的辩论环节、举证环节等涉及相关证据和庭审语音进行智能识别，当提及相关证据时则可以将卷宗内涉案证据直接展现出来，更好的供双方质证，在整个环节保持语音识别，可以替代书记员一部分记录工作。提高庭审卷宗的完备性和准确性。

在司法应用层面，在案件审判、执行、监督和管理方面均有AI发展的空间。依托大数据技术进行专题分析和研判，深入分析各类案件之间和其体现的矛盾，促进司法效果的提升，如山东省高级人民法院运用大数据等手段，形成了“严重暴力犯罪案件的社会矛盾化解问题研究分析报告”，使刑事审判法官在审理暴力犯罪案件中树立全面、系统、普遍联系地化解社会矛盾的思维。云南高院的研发的“毒品案件智能办案系统”及“云南政法大数据办案平台”。通过“毒品案件智能办案系统”对毒品案件的发案趋势、地域分布等数据信息进行深度挖掘。得出了毒品案件的发生趋势、案件的审判规律等众多极具价值的结论，通过“云南政法大数据办案平台”解决了政法部门之间办案数据重复录入和数据不准确的问题，提升了工作效率、节约了办案成本。

运用大数据技术构建设计司法审判服务系统，为法官审理办案提供规范和指引。如海南高院研发的量刑规范化智能辅助办案系统并在海南15家法院试运行，该系统具有智能识别提取犯罪事实和量刑情节，自动推送关联法条和类案，自动依据历史量刑数据推荐量刑，自动生成程序性法律文书和框架性裁判文书，以及多维数据统计等功能，大幅度减少了裁判文书、程序性文书的制作时间和法官量刑办案的工作量。北京法院运用大数据创新构建了“睿法官”系统，通过对数据资源进行挖掘分析，在法官办案过程中推送案情分析、法律条款、类案情况等信息，为法官判案提供指引。浙江也上线AI法官助理、上海法院的“206”系统协助庭审中法官和书记员相关工作。如口语转化，证据展示、争议焦点归纳、案件风险点提示等，裁判文书也自动生成，大大减少了司法工作人员的工作量。

AI司法的理论争鸣

AI的发展同样引起学者们的探究和思考。总的来说，AI的发展及其与司法审判活动的融合大势所趋，其与司法的结合方兴未艾，司法领域应该引入人工智能成为学者们的共识，但是同样存在分歧和争鸣。主要集中在我们应对当前AI在司法活动中持什么样的态度？更进一步的，表现在AI对现有司法审判模式有什么样的影响、如何在司法活动中发挥AI的最大功用两个方面。

对于学者们的争论，可以分为乐观积极、悲观消极和谨慎观望三种立场。基于前文对于AI在司法活动中的分类在具体层次结合学者们对于司法领域引入AI的不同观点进行剖析和说明。

在基础支撑层，有学者认为基于大数据和人工智能技术在数据收集、检索和分析方面所具有的无可比拟的优势，能够快速地帮助法律工作者获得相关信息，并且大数据所呈现出的数据的全面性为案件调查提供了重要的信息，通过大数据分析，能够更清晰、更详细地掌握案件相关信息。在法律信息检索这一层面上，学者们均认为AI与司法具有良好的互动关系和强力的支持作用。能够更方便快捷地提供法律咨询等相关服务，减少司法活动成本。

在技术支撑层，大多数学者认为在图像识别和语音识别技术迭代发展日臻成熟的技术积累下，能够解放书记员的双手，和法庭审判辅助工作时间，特别是语音识别技术能够识别口语化语言和方言，增加了庭审笔录的准确性，极大地提升司法工作效率。在这一层次上，也体现了国家力推智慧法院建设的目标。

在司法应用层，这是当前学者对于AI介入司法领域最富争议的内容。其中在司法审判、执行、服务管理和监督等环节中在司法审判环节的争论尤甚。

乐观者认为当前机器学习的算法已经能够进行一定程度的自我学习。这使得AI能够主动学习和模拟法官判案的逻辑思维方式，在大数据的支持下能够综合多种知识快速地提取案件的各个要素及理性的分析各要素之间的关系，如行为与结果之间的相关性等能够决定审判结果的实质性问题，从数据全面性、分析理性化和算法的先进性等方面进行例证。但是悲观者认为AI在司法审判中毫无用处。悲观者的观点从人的独特性、算法“黑箱”、AI对法官审判思维的影响等多个角度进行反驳。如有从更加消极的角度对AI在法律文书等可机械化重复性的工作进行智能化发展持反对意见，认为“追溯历史，那些受到称道、传至后世以为楷模的裁判文书往往正是这种参酌情理而非仅仅依据法律条文的判决”谨慎观望者从技术的角度和“实用主义”角度出发，认为AI是把双刃剑，当前对于AI的研究还处于起步阶段，会遇到一些无法预测的问题，不可盲目的进行大规模适用，亦不能一味拒绝新事物的发展过程。对于AI介入司法审判的议题认为应该提供更多的技术、制度保障手段，从而发挥AI的最大功用。

二、AI与司法之间的抵牾

从中可以发现，对于AI在司法审判中的问题的本质是其在司法审判活动中的定位和角色的确定。定位的不同会导致AI在司法领域扮演的角色不同，对司法活动的影响也会大相径庭。特别是在审判环节，能不能参与其中是矛盾的集中点，也是探究AI能否进行审判的关键所在。究其原因，在于对AI自身特点与司法活动的特点是否能够很好的适配的分析，体现在审判主体，结果影响和系统运行三个方面。

法官审判与“参与者审判”

首先，法官是依法行使国家审判权的审判人员，享有法定的、独立的、中立的裁判权，近年我国司法体制改革中提出员额制，旨在加强法官的独立性和权威性，AI以AI审判系统的形式参与司法审判，司法审判系统的设计不是由法官设计和开发，以上海“206”系统为例，上海集中了法院、检察院、和技术开发公司等700余人进行设计和研发，使这套系统能够完成预期设想的目标。同时，这套系统也体现了所有人研发人员的意志。虽然大部分是程序上的步骤，但是技术并非中立的，或多或少会包含设计者的主观想法和价值观。若其参与司法审判，则会导致这样的疑问——裁判结果究竟是法官作出的还是研发团队创作出的？若是前者，显然AI审判代表的不只是法官的意志，这与法官裁判独立性相悖，若是后者，则与法官具有法定的裁判权相悖。

其次，AI在基础支持和技术支持层面大大地提高了庭审效率，这也是AI的优势所在。可以想象，若AI发展达不到可以做出准确决策的具有颠覆性的技术，毋庸置疑，其不能作为一个理想的形式参与审判。若AI技术发展成熟，其在审判阶段大放异彩的可能。看似AI审判技术具有了成熟的技术，但是在我国审计制度下的运用面临着自相矛盾的困境。在此情境下，一审是否可以适用？在一审适用的前提下二审是否能够适用？这样推理出的结果匪夷所思：若在一审制度，那么二审的结果会基本一致；若是制在二审适用，那么没有理由不在一审中直接适用，这样与AI审判系统设计提高庭审效率的初衷相悖。

科学技术的发展带来了社会的发展和变迁，也使人类思维发生了变革。而技术的发展需要经济作为支撑，“技术进步的方向，今天在很大程度上取决于公众社会的投资。”作为技术进步的趋势——AI，在一定程度上也是社会投资的方向，AI处理的核心就是算法，多种算法受到社会投资的影响必然面临着算法选择的问题，分析结果则不可避免地出现偏差，在AI运用过程中的各个环节社会投资者、数据收集者，数据分析者及AI应用者都会影响着AI的内容。

最后，司法体制改革要求主审法官终身责任制，“让审理者裁判，由裁判者负责”，一方面增强了法官的自主性和自决性，但是也增加了主审法官的责任，这也是为了能够与“员额制”相互配合，提高了员额制法官的要求责任的承担，大大减少了法官审判的“容错率”。但是，在前文讨论AI审判的情形下，对于错判的案件的救济如何追责，错案承担的主体便无从确定。因此，作为独立的司法审判部门在审理案件时做的结果其实是多方干预的结果，严重地影响了在司法的独立性，并且在法官终身负责制的制度框架下，问责对象有模糊化的可能，“一旦审判主体和决定者难以特定，那么权力边界也就变得模糊不清，司法问责制就很容易流于形式，至少推卸责任的可能性被大幅度扩充了”，在这种情况下，最终对司法质量和司法效果产生不可逆的影响。

算法偏见与司法公正

如前所述，人工智能技术发展离不开算法、算力和数据的支撑，AI参与审判会对裁判结果产生影响，最典型的就是算法偏见。算法偏见会使系统的输出结果与预期结果有所区别，在算法运行中会不断加深这种趋势，导致最终结果截然不同，而一种系统里面存在着多种算法，对于不同的输入，在算法偏见的影响下会变得光怪陆离。算法偏见在算法设计和数据收集及算法训练中都有可能出现。在数据收集层面，对于各种信息都带有不同的情感色彩，包括新闻在内，都会体现出一定的价值偏向，这使算法从一开始就存在输出结果偏离的可能；在算法设计阶段，同样会包含设计者的主观色彩；在算法训练阶段，也会出现训练样本当中。此外，在进行同一目标设计时，会有多种算法进行选择，对于不同算法的选择也会出现不同的偏差结果。这样就会造成AI系统在算法偏见的基础上进行偏离实际的判断，输出错偏离实际的结果。

司法的目的为了增强社会公平，从而发挥司法定分止争的作用，促进社会的有序发展和稳定。法律的效力以内心感到法律公正和合理为转移的。但是，人工智能系统的发展离不开机器学习，而基于机器学习的深度学习的可解释性不强，形成所谓的“算法黑箱”，在审判系统中运行时的过程不能被全面看到。造成对智能系统的不信任，并被认为会影响公正。

“正义”是个相对的概念，每个时代都赋予其不同的内涵，其内容也在不断地变迁，但是不变的是，对于“正义”的定义“始终不能脱离与价值相联系并最终离不开世界观特征”。正义是社会制度的首要价值，罗尔斯认为，只有能够确保一切参与人都能够取得一致的假设状态中的原则才是公正的。新时期对于司法公平正义能力的提升有了更进一步的要求——“努力让人民群众在每一个司法案件中都能感受到公平正义”。因此，算法对数据信息的处理过程中存在的算法偏见在司法公正视角下成为其参与司法审判活动的一大阻碍。

算法“黑箱”与法官说理

一个案件的审判结果是否公正，除了制度保障外，最低限度的要求是其必须达到“合理”的标准。哈贝马斯认为，“一种表达的合理性可以通过批判和论证加以还原。……对于断言和目的行为而言，它们所提出的命题的真实性要求或有效性要求越是能够得到很好的证明，它们就越是具有合理性。交往实践内在的合理性表现为，通过交往所达成的共识最终必须具有充分的理由。衡量交往实践参与者的合理性标准也在于，他们是否能够在适当的情况下对其表达加以证明。”对于案件审判结果而言，需要法官依据案件呈现的证据进行释法说理，于法有据，最高院也专门出台《关于加强和规范裁判文书释法说理的指导意见》“要求通过阐明裁判结论的形成过程和正当性理由，提高裁判的可接受性”，让人看得懂，听得懂，更要让人心服口服。

AI审判系统是由一个个算法构成的，其运作的机制并不能够完全被了解，不可否认，当前法官存在专业性不足的问题，但是学者们认为这不是用AI替代法官的理由，法官判案需要一定的法理基础和审判智慧，而非机械式的搬运。法的指引作用和可预测性是通过法律来体现的而非审判实例，每个案子都不尽相同，具体问题的复杂程度不同，而此时AI对司法审判的作用只是对案件进行甄别，是对作为司法权的重要组成部分的法官自由裁量权的逾矩和入侵。

“对人类言，意识自觉是一种能动的能力，它满足复杂化、进化、自足的必然设定，不断变化，不断完善。”对法的评价需要依赖伦理，即“实在法是由伦理法评判的法现象。”而伦理是人类意识自觉的呈现，随着人类意识自觉的自足和复杂化。裁判者在必须判案的前提下判案时很可能包含道德性的概念或者考虑，具有自由裁量权的法官会在疑难案件中达成道德上或者伦理上的正确判决。

如前所述，AI处理技术并不如人脑运算一般，以视觉处理为例，AI处理可以通过深度学习完整的分析包括人脸识别在内的一系列物品识别，且准确率较高，但是并不能准确地分析出一张图片中不同对象之间的关系，更不会得出图片中所表达的更深意境。对于人类所体现出的联想的能力，机器更多的是通过收集到的数据对比形成回路，如同联想输入法一般。此外，对于伦理而言，更多地体现的是社会共同价值，而算法的设计者并不能穷尽所有的社会价值，且伦理因文化、地域、宗教等的不同而呈现出多种多样的形态，对于案件的定性是依据提供的数据和程序进行，并不能考虑到行为人的主观状态和相同行为在不同时期不同地域所造成的危害程度等无法用数据计算和衡量的要素，而这作为定罪量刑的重要判断标准，AI在此面前则会失灵。换言之，目前的伦理并没有一个明确的边界，从而必定导致出现没有考虑周全的反伦理结果。

AI分析就是数学运算通过一系列简单抑或复杂的程式计算得出相应的结果，简言之，将数字代入函数，输入值，输出是一个值或者定义域，但是“探究法律竞合现象之本质时还应注意偶然性条件之下存在竞合关系的多个法律规范的各自属性的判定。”从司法审判上讲，这与法官自由裁量权不同。“司法的过程既包含着创造的因素，也包含着发现的因素”，自由裁量权既是一种选择权，也是一种判断权，并贯穿包括证据收集、质证、审判等在内的整个案件审理过程，对于有法律规定的情形，则需要进行选择，对于法律没有规定的情形，就需要进行判断，而在判断时就又牵涉有关法律解释的问题，这造成了案件审判时的又一障碍。

三、AI审判何以成为可能？

上述三个方面的冲突似乎是不可调和的，这些冲突同时也是技术在司法领域运用中出现的风险。换言之，而技术在介入社会生活和建构社会过程中制造了风险，这些风险在技术与司法交互影响的过程中呈现出的重重矛盾。造成这种认识的原因其实是来自于技术与法学的对立视角进行观察。深究不难发现，技术不仅是问题肇始也是问题解决的源头，这些问题的解决根源在于技术本身。技术自身如果能够消除上述抵牾，AI在司法审判领域的运用则会批郤导窾。

AI审判系统与法官审判的统一

对于审判主体，法官是唯一的审判者，判决结果离不开法官对于事实的认定、对适用法律的选择、对法律规则和原则的理解。因此，法官必须判案。他们必须参阅和解释相关的法律渊源（法规、判例、习惯等），以便确定适用的法律原则和规则，并进而决定如何将其适用于案件事实。而理想的判决是理想的法官在理想的条件下作出的裁判。AI司法审判系统能够帮助理想判决的实现。基于大数据基础的AI和基于算法的系统能够最大限度地还原出案件的真实情况；AI司法审判系统将同类相似的案件继续分析，将之应用到当前案件中，能够保证法官的判决结果不因个人因素而形成偏差，保持客观性。此外，法谚有云：“法学家的共同意见具有习惯的力量”，AI参与审判，其并不是技术参与审判，而是以技术为手段集合法官集体经验参与审判，是法官集体智慧的结晶。认为“参与者审判”其实质没有认识到技术与法律在相互联系的同时也有区别，并且两个领域的进步都是促进两者联系的方式。解决之道在于“上帝的归上帝，恺撒的归恺撒”。换言之，技术难题通过技术进行攻克，司法问题通过制度进行保障。即在系统技术设计层面，通过专业的程序员进行系统构建，在裁判层面，不能因为使用AI审判系统而减损裁判者的主体责任。

算法偏见的处理

算法中存在的偏见从客观上看，其实是根据收集到的数据进行处理后对相似的数据及进行具有一定趋向性的预测。这种预测是通过数据间大概率和高度相关性体现出来。因此，“偏见”也可以理解为更为中性的“偏好”。而这种偏好可能来源于算法预处理、算法处理和算法后处理的过程中。在以上三个阶段，数据来源、算法设计都不可避免地会受到人的主观性的影响，会导致算法存在社会和系统偏见，这不可避免地会变成一种带有一定价值判断的算法。算法偏见是一直存在的，而人同样也有自己的价值衡量标准，主观性决定了人类在处理事情时或多或少带有主观色彩。理想的法官需要具备理性和客观的视角，法官作为审判者，也会受到来自社会生活、工作经验和自身阅历方面的影响，对于案件审判或多或少带有一定的“偏见”。在司法审判中，“法院必须作出裁决，这是法律领域的结构、法律思维和法律论证的出发点。”法官禁止拒绝审判的原则要求必须对诉讼的案件进行裁决，当法官在没有法律依据的情况下，就不得不根据自身经验和法理进行审判。“我们对于行为结果的期望，有着长久的试错经验，我们主动或被动积累了相当数量和种类的期望。……在诠释学意义上，期望储备成为我们的‘前见’（也很可能是偏见）。”这意味着法官个人的主观性看法在贯穿整个审判过程，这种“成见”是另一种“偏见”。这意味着，在任何情况下“偏见”是或多或少一直存在、不可能消失的。

在司法审判系统中，算法偏见属于功能性偏见，即源自平台特定机制或功能支持的偏差。法官的偏见或者偏好属于外部偏见，即偏见来源于平台之外的因素，包括社会经济地位、教育、社会压力、隐私关注、兴趣、语言、个性和文化等。孟德斯鸠曾言：“法律总是要遇到立法者的感情和成见的”。因此，在现实中，绝对的公平几乎无法做到。但是，在实现正义的过程中发现，形式主义是实现实质正义的有效路径，对于带有功能性偏见的算法而言，也能够通过多种方式对其进行监督和规范，从而保证其结果的公正性。根据造成算法歧视的因素，可以分阶段预处理、处理、后处理进行偏差修正，从而减少系统运行过程中出现偏见的可能性及偏见的离散程度。在预处理阶段，对数据进行过滤和筛选，在算法设计阶段，在保持法官专业性的前提下增加算法设计团队成员多样性，在后处理阶段对结果进行评估。

法谚有云：“正义不仅应当得到实现，而且应当以人们看得到的方式得到实现。”程序法是随着法律追求正义的目标而出现，并实体法和程序法（诉讼法）共同构成了法律制度。通过程序法规范来约束法律审判，“这些规范由于规范的一般性和将来应用规范情况的不确定性，立法者很难看清这些规范对朋友和敌人、亲人和不熟悉的人会有何影响。因此只要用法律来约束法官，以便租住他做出对朋友有利和对敌人不利的判决就可以了。”而智慧审判系统是同归一般性规则对案件进行分析和梳理，此种用规则来约束审判与用法律来约束法官如出一辙。换言之，程序法的出现大大减少了只有实体法支撑下法官审判的恣意性，程序法的固定和透明使人们能够“看到”正义，智慧审判将法律规则进行代码化，可以使程序自行运作，减少除法律系统之外的因素对司法的干预，规范法官的审判过程，从而确保司法独立性，保证公平。

算法“ 黑箱”与法官说理的一致性

AI审判所用到的机器学习等技术性内容，包括专家系统和深度学习。

经典的专家系统是一系列规则的集合，这些规则是代码化的在相关领域中具有专家水平的丰富经验。专家系统由人类明确地预先编程，为这一领域每个问题编写脚本并创建矩阵，以便特定的一组输入能够获得响应并生成输出。专家系统“具有较好的透明性，这是因为它具有解释性。用于向用户解释他的行为动机及得出某些答案的推理过程。这就可使用户能比较清楚地了解系统处理问题的过程及适用的知识和方法，从而提高用户对系统的可信程度，增加系统的透明度。”因此，在AI参与审判时必然会对收集到的数据信息进行分析，推理和归纳，对于一般的案件，可以通过基于规则的专家系统，根据现有知识来构建规则库，这样可以通过将我们知道的事实告诉专家系统，来获取我们在基于现有事实上能够得到的答案，由此可知，专家系统在法律领域内的应用不存在“黑箱”的问题。

而机器学习与专家系统有所区别，算法“黑箱”主要是因为机器学习算法透明度和可解释性不强。当案件没有与之前完全相同或相似的情形时，在一些重大、案情复杂的案件时，专家系统可能不能推理出正确的答案，需要利用机器学习通过神经网络构造并进行训练，并靠自身算法迭代来寻找最优解。与专家系统比较而言，专家系统主要通过演绎法，给予预设的定理进行严格的逻辑推理，机器学习则主要通过归纳法，通过各种独立的案件从中发现一般的推理过程，在将其运用在当下的现象中去进行匹配，最终得出结果。前者可进行详细且合理的解释，但是后者的推理过程包含了更多的不确定性，可解释性程度不够。

这是基于人工智能技术不再发展的前提下进行静态观察的结论，在实际中，AI审判系统的不透明度或可解释性不会成为释法说理困难的原因。一方面，人工智能技术不断发展，可解释性人工智能是人工智能探索的重要方向，在当下也是未来一直热门探讨和研究的课题。随着人工智能技术的发展和可解释性问题解决方案的日臻成熟，乐观的估计，基于技术原因造成的阻碍将越来越小。另一方面，智能审判系统几乎能够收集与案件相关的所有信息资料，因此能够最大限度地还原案件最真实的内容，提供了全景视域，这样就会为裁判者进行释法说理提供更为真实有效的信息和证据，从而增加释法说理的可信度，更好维护司法正义和审判权威。

此外，在案件审判时，法律效力的产生来源于法官的充分释法说理，来源于对案件裁判结论的正当性和说服力，即以程序正当和结果公正为基础的裁判可接受性。在程序正当方面，要求案件审判的过程按照法律规定公正的进行；在结果公正方面，要求裁判结果依据的事实客观、法律适用准确、法律解释清楚、法律逻辑清晰，文本语言规范等。而这一切都是裁判者作出的，虽然裁判结果与释法说理具有很强的相关性，但是真正的案件审判推理只有裁判者自己知道，在对人脑思考机制没有研究透彻的现状下，裁判者的思考过程也是一个“黑箱”。审判中，裁判者面临辩诉双方的激烈辩论，辩诉双方不完全是一场非黑即白的二元对立，不否认在举证过程中存在双方都认可的事实与观点，而是在对案件事实进行充分的挖掘与展现，并依据法律对案件的分析进行观点博弈。裁判者有可能汲取双方观点作出裁判结果。AI审判系统同样会提供根据以往相同或相似案件输出的结果供裁判者参考。在裁判文书上署名的最终是人，在不减损裁判主体责任的前提下，多一种参考结果能够更好地进行解释说明。那么“黑箱”的可解释性与法官说理在结果上达到了统一。

四、AI审判模式选择

当人工智能与司法审判解决了上述抵牾，AI审判系统运行的基本问题能够通过制度的或者技术的途径进行解决，将面临AI在司法审判系统中应用范围和如何应用的问题。

AI司法审判系统模式分析

AI在司法审判系统中的具有一定的积极作用和有利条件，且通过AI与司法之间抵牾的消除可以将其应用于司法领域中。经过前述专家学者的观点，大多数学者也对AI在司法领域的应用持积极态度，但是对于AI如何应用，存在两种不同的观点，一是AI只能在基础支撑层和技术支撑层进行适用，在司法过程中体现在法律条文检索、文书制作，录音录像，文字转译等可重复的机械化工作中，但是不能直接或间接干预案件审判工作。

随着对各专家支持的观点进行进一步分析，不难发现AI在司法审判系统中的定位取决于三个要素：AI技术的成熟程度、经济成本及AI在审判中的实效。即是否可以，是否需要和需要的程度问题。如下图所示：

图1 AI审判系统三要素关系图

其中，AI技术的成熟程度决定着AI应用领域的扩展，AI技术的长足发展能够更好地用于模拟、延伸和扩展生物智能解决问题的理论、方法和应用系统。同时也诞生了更多的研究方向，如机器学习、自然语言处理、模式识别、机器人学……这为交叉学科研究提供了前提条件和基础。AI技术是否成熟，是否能够与司法审判完美结合，决定了AI是否能够在司法领域内使用。当前学者都是存在肯定的观点，但是选择运用何种技术则成了分歧所在。这是学者广泛讨论的重要原因。

审判系统设计的成本效益问题也是众多学者讨论的议题。对这一审判系统而言，举全国之力研发这一系统并不现实，需要综合考虑多个方面的要素，如何充分利用有限的人力、物力、财力，优化资源配置，争取实现以最小的成本创造最大的效率和效益，从而达到司法审判的“帕累托最优”是值得关注的焦点问题。深入到细节方面，对裁判人员专门的系统培训、对系统的学习熟练程度、系统的友好程度、系统研发时间和优化成本等，都是需要考虑的问题。而不能一味地不计一切代价追求系统各方面达到“极致”。

对AI审判模式进行广泛讨论的另一重要因素是对AI在审判系统中发挥实效的见地不同。依据AI在审判系统中发挥的实效不同，前述学者们的观点可以分为效用有限、适度有效和完全有效。这本质上也是一种静态的观察分类。由此会造成AI技术发展的不同阶段，对AI审判系统的使用效果产生不同的认识，甚至得出与原来相反的结论。从学术探讨上无可厚非，但对于现实中司法实践的影响举足轻重，造成司法实务中AI审判系统运用的苍黄反复，导致司法公信力不足。

人机协同司法审判模式

正是以上三种要素的不同立场造成了各类见仁见智的观点涌现，同时也使得其各执一词。是否有一种模式能够“采他山之玉，纳百家之长”，使审判系统随着人工使能技术发展而具有一定稳定性且充满活力？答案是人机协同司法审判模式。

人机协同司法审判模式以认定AI能够应用到司法领域为前提条件，认为裁判者与人工智能之间形成良好的互动关系，而非简单的主次关系，将人工智能作用充分发挥的同时，避免学者对人工智能的担忧，这一关系看似与“人主导、机器辅助”的模式相同，实则蕴含了更多的内涵。不难发现，各家之言均是从某一要素出发进行深入探讨，割裂了三要素之间的联系，也没有将司法审判程序要求和裁判结果推理分类看待。讨论AI审判系统的模式，三要素在司法审判中缺一不可。因此，可以运用“权重”概念，将不同观点的出发点从某一要素转换为对三要素的权重设计，即三要素相对于司法审判的重要程度和贡献度。其表示方式如下：

根据上述公式，通过对三要素进行合理的权重设计，构建人机协同司法审判模式。换言之，当AI发展技术日臻成熟、审判系统设计成本不断下降、AI在审判中的实效显著提升时，无疑是最佳审判模式。

对于AI技术的发展程度而言，一方面，科学技术的发展带来了社会的发展和变迁，也使人类思维发生了变革。“自然科学家和技术人员借助于他们的知识，从一个无生命的抽象世界和推论的世界中所发生的事情，获得了控制和改变世界的巨大的和与日俱增的力量。”这使AI在司法领域内的重要性逐渐提升。另一方面，确定人机协同司法审判模式，能够促进社会资本对AI在司法领域内的长足发展，催生出多种审判算法和审判程序，为人机系统审判模式下具体程序和算法的构建提供大量的路径选择和样本基础。

对于系统设计成本来说，人机协同审判模式能够避免两种思维误区，一是仅仅考虑当下设计成本，二是忽视司法审判整个过程。前者只考虑当下系统的设计成本，而没有考虑由此造成的各种社会成本。成本与效率具有负相关关系，对于相类似的案件能提升司法审判效率，每个案件所耗费的人力物力成本则会降低，并且对于社会尤其是逐利本质的企业有更高的预测和警示作用，防患于未然。后者是只在乎审判环节，忽视了从立案到审判直至审判监督环节的有机连接，人机协同司法审判模式能够利用AI技术对案情相似但是审判结果较高偏差的案件进行自我审视，有利于促进对司法审判的监督。

从AI在审判中的实效来说，人机协同司法审判模式下，主次差别并不是一成不变的在审判过程中完全实施，而是“具体情况具体分析”，依据审判环境的变化、审判环节的不同，其发挥的作用和主导的效果并不相同。从各地司法实践中可以一窥全豹。在民事领域，爱沙尼亚法院已经使用人工智能来解决标的额在7000欧元以下的小额索赔纠纷；在刑事领域，我国也在试点智能化审判在“盗窃案、交通肇事案等影响量刑的因素也较少，是引入智能化审判的优选。”可以发现，人工智能够在常见的法庭程序和事务中作出自主裁决，虽然人机协同从宏观角度看，最终作出决定的仍然是人，但是机器的辅助作用由原来的被动参考变为主动建议，不难推断出，机器的“辅助”作用逐渐增加，并有向“辅佐”过渡的趋势。司法审判中人机关系变化如下图所示：

图2 司法审判中人机关系在司法领域变化图

虽然看起来更为复杂，但是人工智能的作用更为凸显，在没有改变裁判主体的基础上，如果我们听到一个更好的论证，我们没有理由拒绝具有更大说服力的结论，那么裁判者可以直接采纳人工智能所做出的裁判结果。并且从三要素角度来看，这一流程具有一定的稳定性，即三要素的发展只会在各自模块内进行更为丰富的演进而保证主体结构没有根本性变化，这也符合人机协同司法审判模式三要素权重求和最大化的应有之义。

人机协同司法审判模式的基本遵循

人机协同司法审判模式并不意味着AI在主体框架内横行无忌，也不意味着制定详细的规则严格限制AI在司法领域内的发展，而是遵循一定的原则，使其在发展演进过程中始终能够保证模式的最佳程度。

1.保证法官裁判的终局性

如前所述，裁判者必须对其负责的案件作出裁判，这意味着即使没有法律的明确规定，裁判者也必须做出合理的裁决。他们必须参阅和解释相关的法律渊源（法规、判例、习惯等），以便确定适用的法律原则和规则，并进而决定如何将其适用于案件事实。在AI技术的帮助下，根据不同的裁判结果能够形成不同的“法律理由集”（the class of legal reasons），这是法官判案时可以合法地予以考虑的理由集。“如果法律在某一点上是‘理性地确定的’，那就意味着在这一点上法律理由集证成了某个唯一的答案：作为一个法律问题，正如通常所说的，存在唯一正确的答案。”

这既是当前技术发展瓶颈所造成的客观障碍，也是法官自由裁量权要求的体现。同时，得益于人类特有的灵感思维（顿悟思维），“当遇到一个问题无法解决时，大脑会处于一种极为活跃的思维状态，从不同角度用不同方法去寻求问题的解决方法……突然间，有一个‘想法’才能够脑中涌现出来，它沟通了解决问题的有关知识，是人‘茅塞顿开’，问题迎刃而解。”裁判者仍然可以从AI输出的非确定结果中得到启发和灵感，从中发现更为恰当的判决，对于法官释法和法官造法带来便捷。此外，“即便推广使用人工智能辅助系统，也不能强制要求采纳辅助系统的决策结果。任何辅助系统都不应当减损法官的独立裁判权。”这需要确定法官主导审判权的原则，并且不能因采用智能审判系统而弱化司法审判主体的责任，影响司法独立性。

2.坚持区别性原则

区别性原则，既是人机协同司法审判模式的特点，也是必须坚持的原则，包括三个方面。

一是区别对待不同审理环节对于司法审判系统的作用，每个环节使用的AI技术不同，设计的算法和程序也有所差异，不能对所有的环节一概而论采用同一种AI技术，更不能因噎废食，因为个案而弃用AI司法审判系统，否则会导致法官自由裁量权变为“恣意裁量权”；二是对于不同复杂程度的案件，对待AI的要求不能过高，AI在面对复杂案件时可能会出现测不准的情况，甚至出现与常理截然相反的情形，这需要对AI分析复杂程度不同的案件的结果采取不同的态度。现阶段，除了较为简单，条理非常清晰的案件之外，应更着重于AI裁判结果的参考性；三是利用AI的参数调整是AI裁判更符合地方实际，具体来说，可能会涉及当地的风俗习惯等内容作为AI裁判的重要指标，从而更好地弥合社会生活的复杂性、不稳定性与法律之间的发展缝隙。

3.体现效率原则

高效率是AI运用到司法领域的初衷，也是人机协同司法审判模式追求的目标。这与AI算法程序的运用等技术性手段紧密相关，前述两个原则明示了效率原则的具体内容。

首先，效率原则要求AI技术在司法领域运用过程中出现的技术性错误尽可能少，这要求AI司法审判系统的具有较高的容错率，这样不论在后期维护还是实际应用中都能够使整个司法审判受到的影响降到最低。其次，AI预测的结果是否准确也是影响司法审判效率的重要因素。这要求AI司法审判系统预期的结果带有明显的趋向性或高度盖然性，最终实现从相关关系的推测到因果关系的确定。再次，区别性原则对效率原则的呼吁体现在AI司法审判系统的参数调整，要求AI司法审判系统能够及时调整参数、在特殊情况下能够综合运用多种技术手段确保系统能够灵活适用不同地区不同条件下的案件分析审理工作。最后，AI系统离不开人的操作，这要求作为AI司法审判系统的程序优化，通过算法优化、代码优化、指令优化等方法实现系统内核的可用性和可操作性，通过优化界面内容和操作逻辑，增加系统的友好程度和上手性，提高司法审判工作人员的用户体验，从而提高司法审判工作效率。

结语

交叉学科特别是人工智能跨学科研究如火如荼的盛况与AI技术的不断发展引发了在司法领域的观点激荡。技术本身不带来社会变迁，把技术应用在社会各层次和范围才带来社会变迁。人工智能发展不可阻挡，只有寻求协调统一，促进司法审判的发展，而非拘泥于AI对于司法审判的局限性才是AI与司法领域融合的必然选择。人机协同司法审判系统最重要的特征是对AI技术在司法领域内角色地位的提升。就司法实践而言，仅是程序性的工作已经能够很大的提升司法审判效率，其前景是乐观的，还有充分的挖掘空间。对此也应乐见人机协同模式下AI司法审判系统从“辅助”到“辅佐”甚至起到“辅导”的作用。

但是在当前AI技术的限制及理论研究有待进一步发展的现状仍应谨慎理性适用，如证据分析、利益损害程度、案件模拟审判结果等还存在确定性不高、可信度不强等问题，其为法官办案提供规范和指引和量刑参考的同时也不能对其盲目的信任，始终坚持作为人机协同司法审判模式的原则红线，从而最大程度的发挥其优势，提升司法审判工作效率的同时实现公平正义。

原标题：《张翰林丨人工智能审判何以成为可能？—— 人机协同司法审判模式初探》

阅读原文