| 2,785 | 43 | 385 |
| 下载次数 | 被引频次 | 阅读次数 |
加强对人工智能司法发展及风险的研究是时代课题，其中人工智能司法的可解释性困境尤为关键。人工智能司法可解释性指的是司法决策或行为的可理解与透明性，涉及基础数据、目标任务、算法模型以及人的认知这四类关键要素。不可解释困境主要是由数据失效、算法黑箱、智能技术局限、决策程序和价值缺失等因素所致。但是，人工智能司法的不可解释困境其实是一个伪命题，可解释性具备认知层面和制度层面两方面基础。纾解困境的具体策略包括：构建司法信息公开共享制度，提高有用数据的甄别与利用效率；从软硬法结合视角建构司法系统的运行标准与制度规则；从全过程视角强化主体之间的协同治理；通过指导性案例和司法解释赋权法官的司法解释空间，提高法律解释技术；强化交叉学科人才建设，提高对人工智能司法决策模型的引领；发挥法官的自律与能动性，实现司法智能决策的人机协同。未来，不仅需要把握司法价值与技术理性的平衡，还需考虑人工智能对司法的差异化介入，推动人工智能司法战略目标实现。
Abstract：Strengthening the research on the development and risk of artificial intelligence justice is a topic of the times, in which the interpretability dilemma of artificial intelligence justice is particularly critical. AI judicial interpretability refers to the comprehensibility and transparency of judicial decisions or behaviors, involving four key elements: basic data, target tasks, algorithm models and human cognition. Unexplainable dilemma is mainly caused by factors such as data failure, algorithm black box, limitations of intelligent technology, decision-making procedures and lack of value. However, the unexplained paradox of AI justice is actually a false proposition, which has two aspects of cognitive and institutional basis. The specific strategies to relieve the dilemma include building a judicial information public sharing system and improving the screening and utilization efficiency of useful data, constructing the operation standards and system rules of the judicial systems from the perspective of the combination of soft and hard laws, strengthening the collaborative governance between the subjects from the perspective of the whole process, empowering judges with judicial interpretation space and improving legal interpretation technology by guiding cases and judicial interpretation, strengthening the construction of interdisciplinary talents and improving the guidance of AI judicial decision-making model, giving judges scope for their self-discipline and initiative, and realizing the human-computer coordination of judicial intelligent decision-making. In the future, it is not only necessary to grasp the balance between judicial value and technical rationality, but also need to consider the differential intervention of AI in justice, so as to promote the realization of AI judicial strategic objectives.
(1)参见徐骏:《智慧法院的法理审思》,载《法学》2017年第3期。
(2)参见彭中礼:《司法裁判人工智能化的正当性》,载《政法论丛》2021年第5期。
(3)参见季卫东:《人工智能时代的司法权之变》,载《东方法学》2018年第1期。
(4)习近平:《加强领导做好规划明确任务夯实基础推动我国新一代人工智能健康发展》,载《人民日报》2018年11月1日,第01版。
(5)参见[英]哈特:《法律的概念》(第3版),许家馨、李冠宜译,法律出版社2018年版,第1页。
(6)参见前引[1],聂友伦文。
(7)参见马长山:《司法人工智能的重塑效应及其限度》,载《法学研究》2020年第4期。
(8)参见刘艳红:《人工智能的可解释性与AI的法律责任问题研究》,载《法制与社会发展》2022年第1期。
(9)参见[美]米尔伊安·R.达玛什卡:《司法和国家权力的多种面孔——比较视野中的法律程序》(修订版),郑戈译,中国政法大学出版社2015年版,第14-15页。
(10)相关文献参见前引[9],刘艳红文;姚叶:《人工智能算法的不可解释性:风险、原因、纾解——兼论我国“举报人免责制度”的具体建构(英文)》,载《科技与法律(中英文)》2022年第3期;苏宇:《优化算法可解释性及透明度义务之诠释与展开》,载《法律科学(西北政法大学学报)》2022年第1期等。
(11)[德]马克斯·韦伯:《社会科学方法论》,韩水法、莫茜译,商务印书馆2020年版,序言第17页。
(12)See Carl G.Hempel & Paul Oppenheim,Studies in the Logic of Explanation,15 Philosophy of Science 135(1948).
(13)转引自闫坤如:《可解释人工智能:本源、进路与实践》,载《探索与争鸣》2022年第8期,第107页。
(14)参见夏毅、兰明敬、陈晓慧、罗军勇、周刚、何鹏:《可解释的知识图谱推理方法综述》,载《网络与信息安全学报》2022年第5期。
(15)参见刘桐、顾小清:《走向可解释性:打开教育中人工智能的“黑盒”》,载《中国电化教育》2022年第5期。
(16)孙晓勇:《司法大数据在中国法院的应用与前景展望》,载《中国法学》2021年第4期,第124页。
(17)王禄生:《司法大数据与人工智能技术应用的风险及伦理规制》,载《法商研究》2019年第2期,第102页。
(18)前引[1],聂友伦文,第68页。
(19)[德]罗纳德·巴赫曼、吉多·肯珀、托马斯·格尔策:《大数据时代下半场:数据治理、驱动与变现》,刘志则、刘源译,北京联合出版公司2017年版,第205页。
(20)[英]维克托·迈尔、肯尼思·库克耶:《大数据时代》,盛杨燕、周涛译,浙江人民出版社2013年版,第211页。
(21)See Jenna Burrell,How the Machine “Thinks”:Understanding Opacity in Machine Learning Algorithms,3 Social Science Electronic Publishing 1(2015).
(22)参见马靖云:《智慧司法的难题及其破解》,载《华东政法大学学报》2019年第4期。
(23)腾讯研究院等:《可解释AI发展报告2022:打开算法黑箱的理念与实践》,腾讯研究院2022年发展研究报告,第2页。
(24)陈灵峰:《司法人工智能的技术效应与应用边界》,载《求索》2021年第6期,第186页。
(25)参见郑曦:《人工智能技术在司法裁判中的运用及规制》,载《中外法学》2020年第3期。
(26)翁晓斌、饶淑慧:《人工智能司法决策的可解释性及其路径研究》,载《学习论坛》2022年第5期,第132页。
(27)参见[美]瑞·L.马肖:《行政国的正当程序》,沈岿译,高等教育出版社2005年版,序言,第2-10页。
(28)曹卫东:《交往理性与权力批判》,上海人民出版社2016年版,第126页。
(29)陈洪杰:《从技术智慧到交往理性:“智慧法院”的主体哲学反思》,载《上海师范大学学报(哲学社会科学版)》2020年第6期,第90页。
(30)前引[9],刘艳红文,第85页。
(31)[澳]皮特·凯恩:《法律与道德中的责任》,罗李华译,商务印书馆2008年版,第88页。
(32)雷磊:《司法人工智能能否实现司法公正?》,载《政法论丛》2022年第4期,第77页。
(33)前引[12],马克斯·韦伯书,第9页。
(34)[美]塞奇威克、韦恩:《算法》(第4版),谢路云译,人民邮电出版社2012年版,第1页。
(35)参见程承坪:《人工智能:工具或主体?——兼论人工智能奇点》,载《上海师范大学学报(哲学社会科学版)》2021年第6期。
(36)参见丁晓东:《算法与歧视——从美国教育平权案看算法伦理与法律解释》,载《中外法学》2017年第6期。
(37)See Lilian Edwards,Michael & Veale,Slave to the Algorithm?Why a“Right to an Explanation”is Probably Not the Remedy You are Looking for,16 Duke Law and Technology Review 18(2017).
(38)[美]凯文 D.阿什利:《人工智能与法律解析——数字时代法律实践的新工具》,邱昭继译,商务印书馆2020年版,第211-212页。
(39)参见邱昭继:《人工智能、法律解析与未来法律实践》,载《政法论丛》2022年第4期。
(40)沈健州:《数据财产的权利架构与规则展开》,载《中国法学》2022年第4期,第100页。
(41)参见张恩典:《大数据时代的算法解释权:背景、逻辑与构造》,载《法学论坛》2019年第4期;姜野、李拥军:《破解算法黑箱:算法解释权的功能证成与适用路径——以社会信用体系建设为场景》,载《福建师范大学学报(哲学社会科学版)》2019年第4期;解正山:《算法决策规制——以算法“解释权”为中心》,载《现代法学》2020年第1期;张欣:《算法解释权与算法治理路径研究》,载《中外法学》2019年第6期等。
(42)陈端洪:《司法与民主:中国司法民主化及其批判》,载《中外法学》1998年第4期,第39页。
(43)雷磊:《类比法律论证——以德国学说为出发点》,中国政法大学出版社2011年版,第3-4页。
(44)王锡锌、黄智杰:《公平利用权:公共数据开放制度建构的权利基础》,载《华东政法大学学报》2022年第2期,第63页。
(45)[美]瑞恩·卡洛、迈克尔·弗鲁姆金、[加]伊恩·克尔编:《人工智能与法律的对话》,陈吉栋、董惠敏、杭颖颖译,上海人民出版社2018年版,第171页。
(46)A29WP,A29 WP,Guidelines on Automated Individual Decision—making and Profiling for the Purposes of Regulation,2016/679,17/EN.WP 251rev.01( Feb.6,2018),转引自前引[42],解正山文,第183页。
(47)参见前引[42],解正山文。
(48)张欣:《算法解释权与算法治理路径研究》,载《中外法学》2019年第6期,第1443页。
(49)张涛:《探寻个人信息保护的风险控制路径之维》,载《法学》2022年第6期,第68页。
(50)参见[英]罗伯特·鲍德温、马丁·凯夫、马丁·洛奇主编:《牛津规制手册》,宋华琳、李鸻、安永康、卢超译,上海三联书店2017年版,第134-135页。
(51)前引[6],哈特书,第199页。
(52)See Megan T.Stevenson & Jennifer L.Doleac,Algorithmic Risk Assessment in the Hands of Humans,available at http://humcap.uchicago.edu/RePEc/hka/wpaper/Stevenson_Doleac_algorithmic-risk-assessment-humans.pdf,last visited on Nov.25,2022。
(53)See Ilaria Tiddi,Freddy Lecue,Pascal Hitzler et al.,Knowledge Graphs for Explainable AI—Foundations,Applications and Challenges.Studies on the Semantic Web,IOS Press,2020,pp.243-261.
(54)左卫民:《AI法官的时代会到来吗——基于中外司法人工智能的对比与展望》,载《政法论坛》2021年第5期,第11页。
(55)前引[55],左卫民文,第12页。
(56)胡铭、宋灵珊:《“人工+智能”:司法智能化改革的基本逻辑》,载《浙江学刊》2021年第2期,第22页。
(57)[美]阿拉斯代尔·麦金泰尔:《现代性冲突中的伦理学:论欲望、实践推理和叙事》,李茂森译,中国人民大学出版社2021年版,第11页。
[1]如上海刑事案件智能审判系统、北京“睿法官”审判辅助系统、河北“智审”审判系统和浙江“金融智慧庭审平台”等。参见聂友伦:《人工智能司法的三重矛盾》,载《浙江工商大学学报》2022年第2期。
基本信息:
DOI：10.16823/j.cnki.10-1281/d.2023.02.002
中图分类号:D926.2;TP18
引用信息:
[1]周媛,张晓君.人工智能司法的可解释性困境及其纾解[J].财经法学,2023,No.50(02):3-20.DOI:10.16823/j.cnki.10-1281/d.2023.02.002.
基金信息:
国家社会科学基金项目“城市更新中促进绿色建筑发展法律机制研究”(21BFX136)的阶段性成果
2023-03-15
2023-03-15