查找:                      转第 显示法宝之窗 隐藏相关资料 下载下载 收藏收藏 打印打印 转发转发 小字 小字 大字 大字
【期刊名称】 《黑龙江省政法管理干部学院学报》
法经济学视角下算法解释请求权的制度构建
【作者】 贾章范【作者单位】 西南政法大学民商法学院
【分类】 法律经济学
【中文关键词】 人工智能;法经济学;自动化决策;算法解释请求权
【文章编码】 1008-7966(2018)04-0074-05【文献标识码】 A
【期刊年份】 2018年【期号】 4
【页码】 74
【摘要】

算法解释请求权是应对人工智能时代自动化决策风险的新兴权利,能够有效解决现有法律制度性供给不足的难题。从法经济学的角度考量,它不仅能以最小成本实现社会整体效益的最大化,也为博弈双方提供了平等对抗的制度武器,亦是将技术发展而溢出的负外部性进行内部消化的有效途径。算法解释请求权不应囿于“现象描述”的误区,权利构造、适用范围、行使程序等内容应考量资源的有效整合,在相对人救济和鼓励创新之间寻求平衡。

【全文】法宝引证码CLI.A.1250939    
  一、问题的提出
  从科大讯飞研发的讯飞智医助手高分通过2017临床执业医师综合笔试评测{1}到智能机器人小冰出版第一部原创诗集《阳光失去了玻璃窗》{2},再到世界上首个被确认享有公民权的机器人索菲亚开通新浪微博{3},融合了深度学习和大数据分析的人工智能以迅猛发展的势头反复刷新着人们的认知观念,同时也以“经济发展的新引擎”和“社会建设的新机遇”的战略定位出现在党中央、国务院的决策部署中,更成为世界各国抢占新一轮技术制高点的重要机遇。
  小到自动驾驶汽车的路线规划、商业广告的自动化推送,大到个人贷款的自动审批、智能机器人视频面试、劳动合同的签订,甚至智能量刑系统和自动化判决的生成{4},人工智能的全方位应用为人们的日常生活提供了诸多便利,但自动化决策背后隐藏着算法的不可知性和难以理解性、超级算法带来的风险不确定性{5}和传统法律体系制度性供给不足的问题在人工智能时代尤为明显。历史数据的不完整、自身系统的不完善、算法设计者自身目的等诸多因素均有可能导致自动化决策的错误,但自动化决策相对人容易因专业知识的缺乏、信息不对称、维权成本过高、缺乏救济渠道等原因而陷入求助无门的困境。谷歌的图像识别软件和Flickr的自动标记系统曾错误地将黑人标记为“大猩猩”和“猿猴”{6}、魏则西事件将百度的“竞价排名”和“搜索推广算法”推上风口浪尖{7}、新浪微博负责人于2018年1月被国家互联网信息办公室约谈{8},这些事件都反映出算法背后的人为偏私性以及自动化决策算法对相对人带来的重要影响。但自动化决策相对人是否有权知晓决策作出的原因和过程?如果决策确属错误或具有歧视色彩,是否应当对相对人进行事后救济?救济的条件、方式和程序又该如何进行制度性安排?
  诚然,随着人工智能时代的来临,自动化决策导致的社会风险已经引起了诸多学者的深切关注,但自动化决策相对人寻求救济的请求权基础尚待明晰,具体的制度构建尚待详细论证。笔者以现有法律资源在自动化决策场景下存在的制度性供给不足之难题为切入点,从法经济学角度对算法解释请求权进行正当性证成,并从权利构造、适用范围、行使程序等方面勾勒出算法解释请求权的基本内容,以期在矫正信息极端不对称的基础上为对抗双方提供平等协商的机会,使得因技术瑕疵溢出的负外部性得以内部消化,从而达到救济相对人和实现社会效益最大化之目的。
  二、自动化决策场景下现有法律资源的制度性供给不足
  算法解释的核心目的在于使相对人知晓自动化决策的产生过程,以便相对人在确有算法歧视或结果错误时寻求救济。在现有法律资源的框架内,自动化决策内含在用户与网络服务提供者的服务合同之中,亦会因商事领域的应用而与消费者的知情权紧密相关,还可能会因自动化决策的结果错误而纳入侵权责任法的范畴。然而,自动化决策场景的特殊性使得现有法律资源在结果处理上捉襟见肘,违约行为、侵权行为和消费者知情权等制度无法完全契合自动化决策的应用场景,传统法律制度难以为自动化决策相对人提供救济。
  (一)违约责任难以救济自动化决策的相对人
  违约责任是当事人违反合同义务的后果{9}。采用违约责任的方式对自动化决策的相对人进行救济,相对人不仅需要证明对方负有正确决策之义务,而且需要证明对方违反了该义务并因此致使自身权益受损。自动化决策的使用人多为处于垄断地位的互联网巨头,经常凭借自身拥有的社会资源和优势地位,通过格式条款的方式将自动化决策错误的风险转移至相对人。如百度公司在《百度用户协议》第四节第八款规定:百度提供的各种挖掘推送服务中(包括百度新首页的导航网址推送),推送给用户曾经访问过的网站或资源之链接是基于机器算法自动推出,百度不对其内容的有效性、安全性、合法性等做任何担保[1]。换言之,自动化决策相对人负有信息真实性和安全性的审查义务,百度并不承担自动化决策正确的义务,更遑论负担因自动化决策错误而产生的民事责任。
  在自动化决策的背景下,《合同法》第39条[2]和40条[3]对滥用格式条款的规制可能难有用武之地。《合同法》未将保证自动化决策的正确性规定为网络服务提供者的义务,自动化决策的识别义务可以由用户承担,难以认定网络服务提供者存在“免除其责任、加重对方责任、排除对方主要权利”的情形。自动化决策更多地作为网络服务提供者的经营手段,不宜将所有的信息识别义务都归于网络服务提供者,这从信息的复杂性、当事人注意义务的分配、网络服务提供者的审查能力等角度而言,都是不可能实现的。另外,即使存在导致格式条款无效的三种情形,自动化决策相对人若继续使用网络服务提供者的应用程序,可能会因其履行行为而使合同条款发生“实质性变更”而缓和“镜像规则”{10},导致缔结事实合同。更为重要的是,违约责任是以公权力为手段保障合同继续履行或填补受害人的预期利益,在自动化决策错误的情形下,合同继续履行会丧失应有的意义,当事人的预期利益也会因自动化决策的错误而难以确定。更何况,自动化决策结果的正确性不作为网络服务提供者应当承担的义务,在无义务的前提下直接排除了民事责任的承担,使得自动化决策的相对人陷入困境而难获救济。
  (二)自动化决策错误不满足侵权责任的构成要件
  侵权责任成立的重点在于行为人就其实施的侵权行为对他人承担侵权责任应当具备哪些基本要素{11}。损害赔偿请求权的成立须具备法定要件,通常应由被害人就加害人的过失负举证责任,常须借助诉讼,耗费时日及各种成本,加害人亦须有一定的资力,始具实益{12}。自动化决策错误导致受害人权利损害不属于《侵权责任法》的特殊侵权类型,应当适用于一般过错责任,须由受害人证明加害人具有过错、自身权利遭受损失、自身损失与加害人行为之间具有因果关系。
  但自动化决策算法是否应纳入“技术中立”的范畴,又或通过“商业秘密”的方式对抗受害人的诉讼请求?在极端信息不对称的情形下,受害人根本难以凭借自身能力证明自动化决策算法存在错误或采集的数据不完全,更何况自动化决策的损害结果通常以“拒绝”的方式出现,如不批准贷款、不续签保险合同等机会成本的沉没,难以归类为权利人自身的损害。由于《侵权责任法》承担着平衡行为人自由与受害人填补的特殊使命,故而,自动化决策导致的损害在难以满足相关构成要件的基础上,无法为受害人提供侵权法上的救济。
  (三)消费者知情权无法使算法真正透明化
  消费者的知情权脱胎于简单商品经济条件下的诚信告知义务,后增添了消费者自我决定的内容,以期在信息不对称条件下实现合同实质自由和正义。但自动化决策算法自身正变得日益复杂,融合了自主学习和大数据分析的超级算法甚至会超出程序设计者的本来目的而产生额外风险,导致非专业人士难以读懂艰难晦涩的计算机语言。即使当事人具有读懂自动化决策算法的能力,自动化决策的相对人是否构成传统意义上的消费者,而算法提供的自动化决策结果是否应当定性为商品或服务也不无疑问。自动化决策算法作为网络服务提供者新型的生产工具,无疑对网络服务提供者具有重要的经济价值,网络服务提供者能否以商业秘密作为对抗相对人知情权的理由?在上述疑问无法得到圆满回应之前,消费者知情权似乎难以为自动化决策的相对人提供救济。
  互联网巨头的垄断地位和自动化决策的特殊性常常使得相对人处于信息不对称和被决定的弱势地位,再加上对社会资源的集中化占有凝聚成的“算法权力”,自动化决策的相对人容易陷入孤立无援的“算法困境”。在违约责任、侵权责任和消费者知情权均无法为自动化决策的受害人提供救济时,更应回归自动化决策特殊的时代背景,为相对人配置算法解释请求权,从而打破双方地位不平等和信息不对称的局面,在双方的“武器平等”的基础上实现权利均衡。
  三、法经济学视角下算法解释请求权正当性证成
  算法解释请求权是指自动化决策的具体决定对相对人具有显著影响时,相对人有权向算法使用人提出异议并对决策过程和结果进行解释,在确有错误时进行纠正的权利。以自动化决策为代表的人工智能时代即将来临,算法解释请求权虽然能为自动化决策相对人提供矫正信息不对称的武器,但以意思自治为基础的市民社会为何要超越合同约定的范畴而赋予相对人独特的算法解释请求权?这种权利的来源和内在价值是否能够通过法经济学的视角进行深层次的正当性证成?
  (一)纠纷解决的成本收益分析北大法宝,版权所有
  因自动化决策产生的纠纷将在人工智能时代呈现常态化的发展趋势,算法解释请求权的首要目的即为在重新配置权利义务的基础上实现纠纷的有效解决。在自动化决策的背景下,纠纷解决的实质就是权利义务遮蔽下的利益交易{13}。正如上文所提到的,自动化决策的算法通常由网络服务提供者所使用,不仅节约了诸多传统商业模式下的人力成本,亦因掌握了特定需求的信息流动而获益颇丰,甚至会成为企业的重要资产而发生转移。自动化决策的算法成本对于拥有庞大用户群体的网络服务提供者而言微乎其微,而日益精细的自动化决策算法亦会为企业带来源源不断的收益,甚至可能在特定领域取得独占的垄断地位。然而,单独的个体或用户不仅处于被自动化算法决定的地位,亦可能会在自动化算法打造的监狱中失去就业、贷款、租房等诸多机会。
  从成本收益角度分析,自动化算法的使用者在付出了程序开发成本之后,可能会凭借独占的社会资源和垄断地位漠视相对人的解释需求,对该算法以商业秘密为由不公开、不解释、不救济,而追求自身效益最大化的特定个体为了更多的发展机会,可能通过联合方式对抗自动化决策的使用人,其付出的成本仅仅限于拒绝使用对方提供的服务,但这将使平台化的网络服务提供者丧失客户资源而在激烈的市场竞争中惨遭淘汰。然而,零和博弈的背后更多面临着社会资源的浪费和博弈双方皆惨淡出局的结果,并不符合资源合理配置和效益最大化的目标。算法解释请求权更多地建立在双方平等沟通的基础上,不仅尊重自动化决策算法使用者的创新结果,而且通过权利义务的分配使得自动化决策的相对人拥有了要求使用人提供解释的请求权基础,更为自动化决策算法的自我更新和升级提供了更多的发展机遇。在双方皆付出最小成本的基础上,通过市场交易和利益平衡的方式实现效益的最大化,为纠纷解决提供了新的思路。
  (二)博弈均衡理论下的武器平等
  证据法上的武器平等原则是为避免证据由一方独占而决定诉讼胜败的方向,在修正辩论主义语境下,强调诉讼参与人的证据协力义务{14}。算法解释请求权是自动化决策相对人向算法使用者请求解释的权利,包含着双方在公权力规范模式下的力量博弈,也是信息不对称和资源稀缺性的产物。在即将来临的人工智能时代,自动化算法的使用者与相对人不仅存在传统意义上经济实力和社会地位的不平等,而且存在“算法权力”背后的知识鸿沟。对普通社会公民而言,机器语言和自然语言难以实现无缝对接,这将使得博弈双方信息不对称和利益不均衡的情形愈发明显,双方在市场交易中无法达成博弈均衡。更重要的是,法律自身的滞后性难以圆满解决自动化决策错误带来的种种问题,制度资源的稀缺性使得相对人寻求决策解释的需求无法得到满足,法律资源的供给和需求处于不平衡状态。
  根据波斯纳定理,如果市场交易成本过高而抑制交易,权利应当赋予给那些最珍视他们的人{15}。毫无疑问,法律不仅需要考量利益博弈的双方对该权利的需求程度,也需要考虑当事人之间客观存在的地位差距。算法解释请求权为自动化决策的相对人提供了与算法使用人的沟通平台,能够缓解信息阻滞和资源不均带来的实质地位不平等,为自动化决策的相对人提供了要求对方进行解释的权利,是社会实然需求与应然价值的结合{16}。这不仅成为双方均衡博弈的武器,而且通过公权力的介入为博弈双方的市场交易打开通道,在武器平等的基础上形成新的利益平衡。
  (三)负外部性效应的内部化
  自动化决策算法能够有效整合社会资源,借助技术工具达到精准服务的目的,在节约大量社会成本的基础上,实现供求信息的自由流动和社会资源的最优化整合。然而,自动化决策算法的程序瑕疵和数据不完整等原因确实有可能导致错误决策的后果,溢出的负外部性只能通过技术的改进而不断优化,且在相当长一段时间内无法完全消除,这就

  ······

法宝用户,请登录后查看全部内容。
还不是用户?点击单篇购买;单位用户可在线填写“申请试用表”申请试用或直接致电400-810-8266成为法宝付费用户。
【注释】                                                                                                     
【参考文献】

{1}赵永新.人工智能会“碾压”人类吗?[N].人民日报,2017-11-21.

{2}刘坤.如何迎接人工智能热潮[N].光明日报,2017-10-31.

{3}张佳.机器人索菲亚开通微博并“调戏”中国网友[EB/OL].http://tech.ifeng.com/a/20180117/44848659_0.shtml.

{4}孙道萃.人工智能对传统刑法的挑战[N].检察日报,2017-12-11.

{5}吴汉东.人工智能时代的制度安排与法律规制[J].法律科学(西北政法大学学报),2017,(5).

{6}曹建峰.人工智能:机器歧视及应对之策[J].信息安全与通信保密,2016,(12).

{7}余瀛波.魏则西事件的十大法律问题[N].法制日报,2016-05-06.

{8}华智超.反对技术决定论[N].长江日报,2018-01-30.

{9}李永军.论债法中本土化概念对统一的债法救济体系之影响[J].中国法学,2014,(1).

{10}朱广新.论合同订立过程中的格式之战问题[J].法学,2014,(7).中小学减的负已经加到家长身上了

{11}张民安.“侵权行为的构成要件”抑或“侵权责任的构成要件”之辨——行为人对他人承担侵权责任条件的称谓[J].政治与法律,2012,(12).

{12}王泽鉴.侵权行为[M].北京:北京大学出版社,2016:23.

{13}李莉.法经济学与纠纷解决[J].河北法学,2008,(7).

{14}刘鹏飞.修正辩论主义与武器平等的证明责任[J].证据科学,2014,(6).

{15}冯玉军.法经济学范式的知识基础研究[J].中国人民大学学报,2005,(4).

{16}马凯,张记录.法经济学视野下物联网立法研究[J].河南大学学报(社会科学版), 2011,(5).

{17}赵骏,李井奎.禁止儿童乞讨的法经济学分析[J].法制与社会发展,2012,(1).

{18}梁慧星.民法总论[M].北京:法律出版社,2011:73.

{19}王利明.论举证责任倒置的若干问题[J].广东社会科学,2003,(1).

{20}丁春燕.民事诉讼举证规则体系化研究[J].上海政法学院学报(法治论丛),2016,(2).

{21}王硕.举证倒置最亲民的制度设计缓解讼累[N].中国消费者报,2015-03-15.

©北大法宝:(www.pkulaw.cn)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料,正式引用法规条文时请与标准文本核对
欢迎查看所有产品和服务。法宝快讯:如何快速找到您需要的检索结果?    法宝V5有何新特色?
扫码阅读
本篇【法宝引证码CLI.A.1250939      关注法宝动态:  

法宝联想
【相似文献】

热门视频更多