查找:                      转第 显示法宝之窗 隐藏相关资料 下载下载 收藏收藏 打印打印 转发转发 小字 小字 大字 大字
【期刊名称】 《法学论坛》
大数据时代的算法解释权:背景、逻辑与构造
【英文标题】 Background, LogicandStructureoftheRighttoExplanationofAlgorithmicDicision-makingintheAgeofBigData
【作者】 张恩典【作者单位】 南昌大学法学院
【分类】 科技法学
【中文关键词】 大数据时代;算法自动决策;算法解释权;透明性;可责性
【英文关键词】 ageofbigdata; algorithmicautomaticdecision-making; righttoexplanationofalgorithmicdecision; transparency; accountability
【文章编码】 1009-8003(2019)04-0152-09【文献标识码】 A
【期刊年份】 2019年【期号】 4
【页码】 152
【摘要】 大数据时代,算法自动化决策在广泛运用于私人生活与公共治理领域的同时,也导致了隐私和歧视风险。究其原因,在于算法透明性缺乏导致算法决策的黑箱效应,并最终危及算法决策可责性。算法解释权旨在通过赋予数据主体获得算法自动决策的解释的权利,明确数据控制者的解释义务,通过提高算法透明性达致重塑算法决策可责性,进而缓和算法决策隐私和歧视风险的目的,具有现实的正当性基础。在具体权利构造上,依据解释标准和解释时机的不同,算法解释权可以界分为以算法系统功能为中心的解释权模式与以具体决策为中心的解释权模式,两种解释权模式并非非此即彼的排他关系,在具体的解释权运用中,应当根据算法决策所处的具体阶段和时机来选择适当的解释权模式。
【英文摘要】 Intheageofbigdata, algorithmicautomateddecision-makingiswidelyusedinthefieldofprivatelifeandpublicgovernance, butitalsoleadstotherisksofprivacyanddiscrimination. Thereasonsoftheserisksisthatthelackoftransparencyofalgorithmicdecision-making, whichresultsintheblackboxeffectofalgorithmicdecision-making, andultimatelyendangerstheaccountabilityofalgorithmicdecision-making. Righttoexplanationaimstogivedatasubjectstherighttogaininterpretationofal-gorithmicautomaticdecision-making,clarifytheinterpretationobligationsofdatacontrollers, improvethetransparencyoftheal-gorithmicdecision-making, andachievethegoalofremodelingtheaccountabilityofthedecision-makingofthealgorithm, there-bymitigatingtheriskofprivacyanddiscriminationinthealgorithmicdecision-making. Inthissense, therighttoexplanationhaverationality. Intermsoftheconstructionofspecificrights, accordingtothedifferentexplanationcriteriaandtiming, therighttoexplanationofalgorithmicdecision-makingcanbedividedintotwotypes: therighttoexplanationcenteredonthesystemfunctionofthealgorithmandcenteredonspecificdecision-making. Thetwomodelsofrighttoexplanationarenotexclusive, weshouldchoosedifferentinterpretationmodeaccordingtothespecificstageandtimingofalgorithmicdecision-making.
【全文】法宝引证码CLI.A.1264548    
  一、问题的提出
  人类社会已经进入大数据时代。大数据给人们的生活、工作乃至于思维方式都带来了重大变革。大数据之所以能够给人类社会带来诸多变革,所依靠的则是计算机算法模型对海量数据进行自动分析。基于大数据的算法决策正弥散于现代社会,充斥于商业领域与公共治理领域之中,对人们日常公共与私人生活产生着深刻而复杂的影响,并逐渐显现出取代人类决策的趋势。有学者将这个由大数据算法逐渐占据统治地位的社会形象地称为“算法社会”。[1]以色列历史学家尤瓦尔·赫拉利更是大胆预言:“随着机器学习和人工神经网络兴起,有越来越多算法会独立进化,自我改进、从自己的错误中学习。这些算法分析的数据量是天文数字,绝非人力可及,而且它们也能找出人类找不到的模式,采取人类想不到的策略。”[2]从目前的情形来看,这一正深度渗透人类生活诸多方面,对个人权利和利益产生重大影响的算法决策是建立在大数据挖掘分析基础之上,隐藏于算法“黑箱”之中,令普通公众难窥其中奥秘。
  为了缓和乃至化解现代社会中大数据算法决策的“黑箱”效应,法学理论界与实务界进行着艰辛的理论和制度探索。在众多规制方案中,设置算法解释权便是充满创见而又备受争议的一种方案:言其充满创见,是因为其旨在回应大数据时代算法决策的“黑箱”效应这一基本问题,言其备受争议,是因为对算法解释权的存在及正当与否,学者们仍然存在着重大分歧。[3]可以毫不夸张地说,目前,无论是在理论还是实践维度,算法解释权都处于“重重迷雾”之中,究其原因,在于学术界对算法解释权这一现代算法社会兴起的重要权利形态缺乏足够的研究。[4]面对这种情形,亟待法律学者拨开笼罩在算法解释权“迷雾”,以使这一算法解释权更具理论意蕴与实践功能。本文不惴浅陋,尝试从算法解释权的兴起背景、权利逻辑、争论焦点与基本构造等方面,对大数据时代兴起的这一新型权利类型展开研究,以期对算法解释权的理论探索与制度实践有所助益。
  二、算法解释权产生的背景:大数据算法决策的兴起及其引发的问题
  (一)大数据时代算法自动化决策的兴起
  算法是种古老的技艺。在人类社会漫长的发展过程中,人们都在运用算法来解决生活中的问题。正如美国学者克里斯托弗在考究算法历史时所指出的那样:“千百年来,人们一直在设计、修改并分享着算法,这一活动早在算法这个词出现之前就开始了。……巴比伦人处理法律事务时会用到算法,古时候拉丁语老师检查语法时会用到算法,医生靠算法来预测病情,无数遍布全球的普通人曾试图用算法预测未来。”[5]但是,公允而言,受制于数据存储和处理能力,彼时,算法的功能和影响力毕竟是有限的。只有到了大数据时代,算法才真正发挥了其潜在的功能和广泛的影响力,以大数据为基础的算法自动化决策遍及私人生活和公共治理领域。
  在私人生活中,算法决策广泛运用于广告营销、就业、银行信贷等诸多领域。当我们作为消费者进行网络购物时,算法向我们推荐产品;当我们应聘某一岗位时,算法决定着我们是否能够胜任这一岗位,进而决定着我们能否获得就业机会;[6]当我们向银行申请贷款时,银行所使用的大数据算法对我们进行信用评分,进而决定我们是否能够获得贷款以及获得贷款的额度大小。不仅如此,金融算法大量运用于金融投资决策之中,美国学者将金融算法形容为开启现代金融帝国大门的新密码。[7]大数据算法之于已经迈入互联网时代的现代金融业的重要地位由此可见一斑。
  在公共治理领域,算法决策也逐渐受到青睐。在刑事侦查中,以大数据算法为基础的预测警务被用于预防和打击犯罪。美国情报部门为了打击恐怖主义以维护国家安全,逐渐开始运用大数据算法识别和发现潜在的“恐怖分子”。美国学者佩德罗·多明戈斯在谈到学习算法之于现代国家安全的重要性时指出:“在网络空间之外,学习算法是保护国家的壁垒……恐怖分子可隐藏在足球比赛的人群中,但学习算法能辨认他们的相貌,恐怖分子可以在国外制造爆炸事件,但学习算法能找到他们。”[8]同时,算法决策还被运用于刑事审判之中,作为量刑的重要依据。美国威斯康辛州初审法院基于罪犯改造部门提交的一份载有被告艾瑞克·鲁米斯的再犯风险评估内容的COPMAS调查报告,进而对其作出了监禁6年外加监外管制5年的判决。在接到一审判决之后,被告以初审法院根据COPMAS评估作出判决侵犯其正当程序权利为由提出上诉,但最终被威斯康辛州最高法院驳回。
  算法不仅决定了执法资源的分配,而且还在很大程度上决定着国家扶贫资源的分配。为了实现精准扶贫战略目标,目前,我国贵州、安徽、海南等中西部欠发达地区纷纷运用大数据来精准识别贫困户,进而决定国家扶贫资源的合理分配。虽然各地“大数据+扶贫”战略在具体实践中有所差异,但是总体上遵循如下思路和做法:一是通过相关部门多维度数据对比分析,自动预警、实时推送异常信息,帮助扶贫干部实现对贫困户的精准识别。二是以“扶贫云”的建档立卡贫困户数据为基础,通过相关扶贫部门数据对贫困户进行精准画像,实时掌握国家、省、市、县、乡、村各级帮扶干部情况及对应帮扶贫困户信息。三是可根据贫困实时信息,自动比对和身份识别,推送给教育、财政、扶贫等相关部门,实现“一站式”精准扶贫。四是通过大数据可视化,将帮扶企业对各贫困村、贫困户的帮扶情况呈现出来,实时掌握企业帮扶贫困户情况和贫困户被帮扶进程。[9]
  由此可见,算法决策已经弥散于私人和公共领域之中,并且伴随着大数据不断发展,算法决策还在向社会其他领域渗透蔓延开来。在现代社会中,算法决策之所以被广泛运用,一个重要的原因在于算法决策有助于实现精准决策。客观公正是人类决策的重要目标,然而,受到人类认知偏差的影响,人类决策一直为精准性所困扰,现代社会的复杂性更加剧了精准决策的难度。大数据为复杂社会治理提供了难得的历史契机。一方面,现代互联网技术实现了海量数据的存储,人们日常生活的点滴都被记录下来;另一方面,借助于大数据算法,公私决策部门能够对个人的偏好、行为进行精准预测,从而作出相应的决策。而且,算法决策还能固化乃至形塑个人的偏好。当我们浏览网络时,大数据算法基于我们的浏览历史和消费记录,向我们推荐网页新闻和营销广告,将固化和形塑我们的偏好和认知。从功利主义视角观之,大数据时代盛行的算法决策符合效用最大化的功利原理,这也是算法决策在现代社会备受公共部门与私人机构青睐的根本原因。
  (二)算法自动决策面临的新问题催生算法解释权
  大数据时代的算法决策展现的是一种典型的技术理性。算法决策依靠的是大数据挖掘技术。大数据挖掘范围最典型的特征在于,“其转变了传统的围绕特定认知对象或假设而进行的数据搜集模式,取而代之以基于广泛、全面、深度的数据搜集而形成认知对象或假设的过程。”[10]近年来,伴随着算法决策广泛运用,其在因精准化而备受青睐赞誉的同时,却也因算法决策引发的风险而遭遇到越来越多的批评与质疑。概括而言,目前,作为技术理性产物的算法决策所面临主要是隐私风险和歧视风险。
  从隐私维度看,算法决策对生活于其间的个人隐私构成了严重威胁。算法决策是以海量数据为基础的,用于进行算法决策的算法模型就是基于所搜集的历史数据训练而形成的,亦即机器学习过程。用于训练算法模型的历史数据来源广泛,囊括个人购物偏好,行踪轨迹、生理特征等诸多方面,其中包含大量涉及个人隐私的数据信息。在算法模型运用于特定主体时,仍然需要对个人的上述诸方面的数据信息进行搜集。因此,在很大程度上,大数据时代的算法决策是以牺牲个人隐私来换取所谓的便利和高效,人们的私生活和个人隐私被现代物联网技术暴露无遗。置身于大数据时代,“进行数据收集、创建、存储和分析的电脑数量呈爆炸性增加,使得技术能够侵犯你的隐私。记录你的生活细节的数据采集点越多,任何想要了解你的人可获得的信息就越多。”[11]无怪乎美国学者洛丽·安德鲁斯发出大数据时代下个人“隐私死亡”的警告。[12]值得特别注意的是,与传统技术聚焦于个体隐私信息的搜集与利用不同之处在于,现代大数据分析技术在隐私信息的搜集和运用上,已经呈现出超越个体层面,逐渐向群体隐私聚焦的趋势。[13]之所以会带来这种变化,原因在于,以大数据算法决策是建立在分类的基础之上。这意味着,大数据时代,不仅仅要关注单个个体的隐私保护问题,还需要关注大数据分析技术带来的群体隐私威胁和保护的问题,这也给传统以个体为中心建构隐私权的理论、制度和实践带来了挑战。
  从决策的平等性角度观之,自动化算法决策在引发隐私风险的同时,也造成了歧视风险。[14]德国学者克里斯多夫·库克里克将现代大数据算法统治的社会称之为“微粒社会”,以区别于传统的“粗粒社会”,微粒社会的典型特点是借助算法对人和事物进行高度的解析、评价和预测。因此,微粒社会也是一个借助算法进行预测和打分的“评价型社会”。然而,由算法所进行的评价并非技术专家所标榜的那么客观和中立。基于算法所做出“评价和预测不是中立的,它们介入个体的生活之中,考验着我们对于民主体制中平等的理解。”[15]这意味着,算法决策给传统的平等观念和价值带来了严重的挑战,也引发了歧视风险。如果说隐私风险是源自于大数据的开放性特征,那么,歧视风险则是源于大数据的排斥性特征。在技术乐观主义者看来,大数据具有开放性和包容性,能够很大程度上消除传统人类决策中的偏见与歧视。然而,大数据并非如那我们所设想的那般,只具有开放性,而是兼具包容性特征与排斥性特征。[16]而恰恰是由于大数据的排斥性特征,引发了大数据算法歧视的问题。
  目前,算法决策的歧视问题呈现在私人与公共决策诸方面。例如,在招聘就业领域,算法自动化决策带来了对黑人和女性等特殊群体的系统性歧视。[17]在银行信贷领域,算法决策使得在相同条件下,黑人和其他有色人种获得银行贷款的机会明显减少。[18]美国学者伊恩·艾瑞斯表达了他对于金融信贷领域算法决策种族歧视的担忧:“尽管几乎不可能明确根据种族来制定房贷或保险计算程序,……不过,形式上没有种族歧视的计算程序有时也会被质疑为促进了某种实质性的歧视。地域性歧视是历史延续下来的做法,即拒绝向少数群体地区提供贷款。实质性歧视类似于拒绝向数据表明有少数群体聚集的群体提供贷款。让人担心的是放款人可以通过数据挖掘到与种族相关的特征,并把这些特征用作拒绝放款的借口。”[19]牛津学者布莱斯·古德曼和赛斯·弗兰斯曼认为,“在一定意义上,运用算法画像来进行资源分配本质上就具有歧视性:当数据主体根据各种变量进行分组时画像就发生了,而决定的作出则是以某一主体归属于特定的群体为基础的。”[20]在市场营销方面,各大互联网平台通过对消费者历史消费记录的大数据分析,可以精准掌握潜在消费主体的消费偏好和需求,并基于消费者对特定商品和服务的喜好程度来对其进行“差别化定价”,提供所谓的“个性化”消费体验。然而,这种个性化定价的背后,则可能构成“价格歧视”。[21]在预测警务执法领域,算法自动化决策则涉嫌歧视黑人群体和有犯罪记录者。[22]
  在现代法治社会中,基于个人种族、肤色、宗教信仰或其他一些特征所作出的公共或私人决策都将受到决策平等性的质疑。然而,在大数据算法的帮衬下,决策者可以“绕开这些反歧视约束,实现对特定人群的分组。通过自动化的开发和改进分组的过程,算法将特定种族、婚姻状况、年龄、性取向和宗教信仰的人划分到了一起。”[23]这意味着,借助于算法程序,歧视现象将变得更为隐秘,难以为人们所察觉。
  但是这并不意味着歧视并不存在。实践中。屡屡见诸报端的“大数据杀熟”等大数据歧视现象表明,算法决策并非如我们所设想的那样公正客观,而是同样存在着偏见和歧视,人们固有的偏见与歧视将通过数据搜集和数据训练等一系列行为而得以延续,甚至加剧。学者形象地将其称为“偏见数据进,偏见决策出”。
  算法自动决策所引发的隐私与歧视风险,在不同程度上都指向大数据算法决策的“黑箱效应”。所谓算法决策的“黑箱效应”,是指那些对人们生活产生重大影响的决策,是由大数据算法在人们无法察觉和认知的隐秘状态下自动作出的,具有高度的模糊性。究其原因,算法决策黑箱效应缘于算法决策具有高度的技术性和隐蔽性。正因如此,大数据算法成为公共和私人机构推诿责任的工具和屏障,当决策失误时,他们便可以决策是由技术中立的算法模型作出为理由而拒绝承担责任,从而引发了算法决策的可责性问题。凭借大数据算法,一些商业机构和公共部门正在获得一种新的权力——算法权力。而如何从法律制度层面对这一权力加以有效规制,成为亟待法律学者回应的重要理论与实践命题。
  2016年4月14日通过并于2018年5月25日正式实施的欧盟《一般数据保护条例》,被认为确立了算法解释权。在大数据时代背景之下,作为一种新兴权利形态,算法解释权兴起所展现的,实则是试图通过强化对算法自动化决策的解释,进而提高算法透明性,并最终达致克服算法模糊性和技术性特征所引发的隐私和歧视风险的制度性努力,亦即旨在通过赋予数据主体有权获得算法自动决策的解释权利,来达到规制算法权力,进而缓和乃至消除算法决策隐私和歧视风险的目的。
  三、通过增强透明性规制算法权力:算法解释权之控权逻辑评析
  透过上文的分析,我们得以洞悉算法解释权产生的现实情境,但是,公允而论,作为一种新兴权利,其正当性并不仅取决于宏观层面大数据时代所面临的形形色色的现实需求,而更多地取决于这一权利类型究竟能够在多大程度上回应和解决现实的难题。在大数据时代,各种权利话语呈现泛滥趋势。加拿大学者萨姆纳便对现代社会中权利膨胀与贬值现象提出批评,在谈到权利话语的问题时,他将经济学上的通货膨胀与权利膨胀相类比:“通货膨胀使得货币贬值,降低了购买力。权利要求的扩大也使权利贬值,降低了权利论争力。权利要求的扩大是有意义的,但往往缺乏基础或比较轻率”。[24]目前,围绕着算法解释权的实然存在性与应然正当性,学界仍存明显分歧。为了更好地明确算法解释权的价值,避免算法解释权的制度建构沦为一种缺乏理论基础的轻率产物,殊有必要梳理和检视算法解释权的控权逻辑,并澄清和回应目前学者围绕算法解释权的理论争议误区。
  (一)算法解释权的控权逻辑:增强算法透明性
  在算法决策逐渐占据统治地位的算法社会中,各大互联网商业巨头和公共机构正在掌握一种算法权力,而支撑这种新型权力的则是各种功能强大的学习算法。大数据算法的重要特征在于其高度的专业性和模糊性,这些特征使得算法决策呈现出

  ······

法宝用户,请登录后查看全部内容。
还不是用户?点击单篇购买;单位用户可在线填写“申请试用表”申请试用或直接致电400-810-8266成为法宝付费用户。
【注释】                                                                                                     
©北大法宝:(www.pkulaw.cn)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料,正式引用法规条文时请与标准文本核对
欢迎查看所有产品和服务。法宝快讯:如何快速找到您需要的检索结果?    法宝V5有何新特色?
本篇【法宝引证码CLI.A.1264548      关注法宝动态:  

法宝联想
【相似文献】
【作者其他文献】

热门视频更多