查找:                      转第 显示法宝之窗 隐藏相关资料 下载下载 收藏收藏 打印打印 转发转发 小字 小字 大字 大字
【期刊名称】 《法学》
人工智能法律规制的价值取向与逻辑前提
【副标题】 在替代人类与增强人类之间【作者】 于海防
【作者单位】 烟台大学法学院【分类】 16
【中文关键词】 人工智能;智能增强;人机关系;价值取向;主体资格;法律规制
【期刊年份】 2019年【期号】 6
【页码】 17
【摘要】

在机器智能领域,人工智能与智能增强两大技术阵营在应替代人类还是增强人类上存有理念对立,并映射于法律。相对于计算机、网络等智能增强技术以人为中心、以增强人类为目标,人工智能技术以机器为中心、以替代人类为目标,在技术上具有去人类化的属性,此系人工智能诸多伦理困境与法律难题的产生根源。人工智能法律规制应当坚持以人为本,对人工智能前置性地施加局部替代人类、整体增强人类的价值负载,在人工智能不具有主体资格的前提下,围绕人工智能以机器为中心的特性进行制度设计,弱化复杂的伦理困境与责任认定疑难,并保持与既定体系的接洽、交融。人工智能法律研究不应局限于法律范畴之内,在技术分析之外,还需要结合哲学、伦理学等学科的研究。

【全文】法宝引证码CLI.A.1263205    
  

目前,人工智能法律研究的核心在于如何科学、合理地规制人工智能。学界现阶段的研究多针对具体问题,但研究难以协同,观点纷纭,动辄否定传统法。[1]而且,人工智能依托于计算机,但现有的

人工智能法律研究却与之前有关计算机、网络、电子商务的法律研究差别极大。[2]在相当程度上,人工智能研究的纷乱现状源于其法律规制的基点未得到确立,而这又可归因于人工智能基础法律问题研究的不足。[3]从技术背景来看,人工智能领域内部仍存巨大分歧,至今尚未形成统一的理论与技术范式,甚至连人工智能概念的内涵与外延都是不确定的,[4]致使新兴的人工智能法律研究缺乏共认的研究前提,这不利于顺利开展对人工智能基础法律问题的研究。笔者不揣浅陋,在人工智能技术、认知科学、哲学、伦理学、法学等多学科结合的视角下,梳理机器智能两大技术阵营的理念纷争及对法律所生影响,并以此为基础分析人工智能法律问题的根源、症结与解决思路,进而尝试确立人工智能法律规制的两个核心基点,以解决人工智能因去人类化属性而与法律产生的根本性冲突,将人工智能法律规制融入既定法律体系。

一、机器智能技术的理念纷争及对法律的影响

计算机、网络、电子商务与人工智能法律问题的产生均源于数字化计算机器的应用。计算机、网络、电子商务法律问题的产生已有三十余年,相关法律规制基本定型且已融入传统法律体系,人工智能发展六十余年,却于近年才产生法律问题。此外,虽然在技术、领域与应用上存在耦合与重叠,但人工智能法律研究与计算机、网络、电子商务等法律研究却相割裂,国内外均是如此。在笔者看来,这种割裂映射了人工智能与智能增强两大技术阵营在机器智能领域的长久对立。然而,人工智能与智能增强其实具有一定程度上的辩证统一关系,二者在法律问题上也具有这一特点。回溯梳理这两种机器智能技术的发展、分歧及对法律的影响,有助于人工智能法律问题的分析与解决,对于厘清人工智能立法与既定法的关系以避免体系龃龉也具有重要意义。

(一)机器智能框架下人工智能与智能增强的理念对立与统一

虽然哲学家、科学家与大众对人工智能的理解存在系统性差异,[5]但可以肯定的是,人工智能是一种机器智能,依存于以计算机为代表的数字化计算机器,而计算机从产生时起便是具有区别于以往任何机器的、可发展的机器智能的。[6]计算机从第一代发展到第四代,推动机器智能水平持续提升,计算机、网络、虚拟现实、大数据、云计算、物联网、区块链、人工智能等数字计算技术可以在机器智能的宏观维度上得到统一。[7]各式数字化计算机器、技术的发展史就是机器智能的发展史,反之亦然。拥有机器智能的计算机器的出现改变了自工业革命以来的人机关系,并使人类与计算机器之间的关系成为人机关系的核心。[8]人机关系因计算技术的进步、机器智能的提升而不断发展、变化,并向人际关系、社会关系传递,迫使法律不断作出调整,在此过程中产生的法律问题可以统称为机器智能法律问题。机器智能法律问题的实质是数字化时代的人机关系在法律上的投射,发轫于计算机,兴盛于网络。近年来,机器智能因人工智能技术的发展而进一步提升,对人机关系、人际关系、社会关系以及法律的影响更加激烈,所形成的人工智能法律问题系机器智能法律问题的进一步发展。需要注意的是,在机器智能与人机关系上,在整体上始终存在人工智能的“替代人类”与智能增强的“增强人类”的理念对立,这种对立投射于技术、社会与法律,对计算机、网络、电子商务等法律问题与人工智能法律问题的形成与解决具有直接影响,但当前的研究对此少有关注。

1950年,图灵在《计算机器与智能》中分析了基于计算机创造出具有智能的机器(学习机)的可能性,期待“机器能够在所有纯智能领域同人类竞争”。[9]1956年,麦卡锡等科学家在达特茅斯会议上提出了“人工智能”(Artificial Intelligence,以下简称AI)的概念与设想,这是一种后来被称为GOFAI(Good Old Fashioned AI)的采取符号主义范式的“老派AI”,通过使用计算机模拟人类智能创造类人机器智能,[10]目的是通过提升机器智能使机器能够代替人类从事相关活动,而这同样也是后来被称为NFAI(New Fangled AI)的采取联接主义范式与行为主义范式的“新派AI”的目标。[11]AI的发展过程便是机器替代人类的过程,[12]其间牵涉了诸如主客二分还是主客一体、身心二元还是身心一体、非身认知还是具身认知、唯理论还是经验论、科学主义还是人文主义等复杂问题,长期受到哲学与伦理学的关注。AI从GOFAI发展到NFAI,现今在替代人类上更进一步,甚至开始替代律师、医生等复杂脑力劳动岗位,这导致人机关系发生了重大变化,催生出一系列的伦理与法律难题。

1962年,恩格尔巴特(Douglas C. Engelbart)提出了“智能增强”(Intelligence Augmentation,以下简称IA)的概念与设想。[13]IA不认同AI通过计算机模拟人类智能、替代人类的理念,认为计算机应用于改善和增强人类的智慧、能力,强调以人为本,主张人机交互、人机共存,[14]这种理念可以追溯到皮尔士(Peirce)的符号学与实用主义哲学。[15]由于IA遵循主客二分,以人类为中心,[16]因此受到的哲学、伦理学关注远较AI为少。[17]在几十年间,IA连续推动了计算机、操作系统、应用软件、用户界面的进步,提升了人机交互水平,开发了超文本系统(至今仍是网络的根基),推进了阿帕网(因特网的前身)的形成,虚拟现实、智能网络搜索及电子商务的发展也与IA有着密切关系,[18]“从恩格尔巴特的观念到现今的技术有着明确的因果链条”。[19]

AI与IA在替代人类与增强人类上的理念对立导致二者具有不同的技术思想与设计进路:AI以机器为中心,更关心机器本身,会淡化甚至排除人的参与;IA以人为中心,更关心人与机器的互动,会保证人的参与和控制。现今的无人驾驶与辅助自动驾驶的设计差异便呈现出这种差别。[20]AI追求的是可以达到甚至超越人类智能的类人机器智能,可以令机器广泛替代人类。IA追求的是可增强人类甚至与人类协作的机器智能,这不是类人智能,而是人类智能在机器领域的延展。自20世纪60年代起,AI阵营与IA阵营在理念与研发上便是对立的。[21]然而辩证地看,机器智能技术发展至今,AI与IA既有对立性,也有统一性。在技术上,AI与IA具有一定的共通性,相互促进,[22]“计算机技术的发展正在消解AI和IA的边界”,[23]各种技术交融集成,有时甚至难以判断某项技术究竟是AI还是IA。[24]在理念上,AI虽秉持替代人类,但其在替代人类的同时也在增强人类;[25]IA虽秉持增强人类,但其在增强人类的同时也在替代人类。[26]AI与IA在理念与技术上的迥异及辩证统一关系对法律问题的形成与发展产生了重要影响。

(二)人工智能法律问题与智能增强法律问题的分离与交融

IA融入了计算机技术的发展,IA法律问题随着计算机、网络、电子商务的发展而逐步显现。大约在20世纪80年代,个人计算机技术的成熟催生出计算机法律问题,网络与电子商务在20世纪90年代的兴起催生出网络与电子商务法律问题,大数据、云计算与区块链等技术在21世纪初的发展也促生出诸多法律问题。这些领域的机器智能均为极弱智能,均奉行增强人类的理念,法律问题的产生逻辑相似,也正是在此意义上这些法律问题可以统归为IA法律问题(即智能增强法律问题),包括意思表示、电子合同、数据、广告、侵权、虚拟财产、金融、知识产品、不正当竞争、医疗、消费者保护、大数据、云计算、区块链、物联网、电子证据、网络管辖与犯罪等各部门法问题。

AI虽然也与计算机技术协同发展,但它的目标、方法、进路与计算机技术不同,并高度融合了哲学、神经科学、心理学、工程学等学科,独立性较强。AI经历了从符号主义范式到联接主义范式、行为主义范式的不断自我否定的发展历程,数次陷入寒冬期。21世纪之前的AI智能水平较低,应用范围较为狭窄,对一般意义上的人际关系、社会关系影响极弱,基本未对法律产生影响。在进入21世纪后,随着网络、大数据、云计算等技术的成熟,AI获得了新的驱动力,各技术范式得以集成、混合,进一步推升机器智能。尤其是在2012年之后,AI类人智能水平提升迅速,甚至在人类传统智能优势领域多次击败了人类智能,并向各领域渗透,AI开始替代人类岗位,AI法律问题由此而生。目前AI法律问题涉及主体资格、意思表示、电子合同、数据、广告、侵权、金融、知识产品、不正当竞争、医疗、消费者保护、大数据、云计算、区块链、无人驾驶、机器人、物联网、机器决策、犯罪、行政管理、法律服务、司法审判等,与IA法律问题存在大量重合。

AI与IA的对立性具化于计算机技术,显现于人机关系,传递于人际关系与社会关系,以至于AI法律问题有别于IA法律问题。AI法律问题既与IA法律问题存在重合,也包括大量新问题。在重合问题上,由于两种法律问题系不同理念与技术的具现,除部分问题外,AI法律问题通常无法套用IA法律规制。例如,以AI为主导的全自动无人驾驶与以人为主导的辅助自动驾驶在责任分配上会存在明显差异,自主机器人侵权问题的解决也明显不同于通常的计算机、网络侵权问题。不过,AI与IA的统一性也使得AI法律问题与IA法律问题相互交融。首先,AI法律问题与IA法律问题均因数字化机器智能的进步而引发。其次,意思表示、电子合同、数据、消费者保护、广告与不正当竞争等重合问题的形成逻辑通常不与所使用的技术是增强人类还是替代人类相关,在AI之上大致可以使用既定的IA规制模式。[27]最后,AI与IA混用于各种场景,AI法律问题与IA法律问题在诸多领域具有桥接关系或混同关系,例如大数据、云计算、自动驾驶、证券算法交易等法律问题具有AI与IA的双重属性。[28]AI法律问题在承继部分IA法律问题的基础上进一步发展,二者既有区别,又有联系,这意味着二者的法律规制应当具有一定意义上的协同性。[29]当然,协同并非意味着一致。

二、人工智能法律问题的根源、归纳与解决思路不能给市场做人工呼吸

鉴于AI法律问题具有特殊性、复杂性,并与IA法律问题存在分离与交融,研究AI的法律规制应首先分析AI法律问题的根源与症结,进而对AI法律问题进行归纳,在此基础上分析其解决思路。

(一)人工智能法律问题的根源与症结

虽然AI尚无公认的统一概念、理论与范式,应用繁乱,但从根本上说,AI为替代人类劳动而生,[30]以替代人类从事活动为目标。[31]法律为人类而设计,以人与人之间的关系为调整对象,而替代人类的AI是(智能)机器,其在决策逻辑、行为模式以及社会性、可预见性等方面与人类有差异,会超出人类经验或期望的限制,[32]这导致面向人类的法律难以简单适用于AI。笔者认为,AI法律问题的产生根源便在于AI对人的替代,无人驾驶、智能投顾、作品定性、责任分担等系列问题的产生均是因AI替代人类实施本来由人类实施的行为,导致原本适用于人类的法律应对困难。

IA法律问题也有诸多疑难,但大多可以通过对传统理论、既定规则的解释与适度修正得以解决。之所以如此是因为IA奉行增强人类的价值取向,机器的设计是为了改善、提高人类能力,在IA式人机关系中,人处于中心地位,人为主体,机器为客体,这契合法律以人为中心的理念与主客二分的观念,将IA融入法律便不会存在体系性障碍。[33]然而,在AI替代人类的理念之下,机器会采取独立于人类的设计,人的因素会被淡化甚至被消除,在AI式人机关系中,机器处于(技术)中心地位,人类甚至要服从于机器作出的决策,这在根本上与法律以人为中心的理念与主客二分的观念相悖,将AI融入法律便会存在巨大障碍。因此,AI替代人类的理念、以机器为中心的去人类化观念与法律以人为中心的理念、主客二分的观念之间的冲突便是AI法律疑难的症结所在,在未就如何解决这一根本性冲突达成共识、无法确立AI法律规制的基点时,针对具体问题的研究便会显得纷乱。

(二)人工智能框架性法律问题的归纳

从与IA相区别的角度而言,各式AI的共性在于贯彻替代人类的理念,在技术上以机器为中心,在应用上以(全部或部分地)替代人类劳动为目标,而这也正是AI法律问题产生的根源。在此基础上,可以从与IA法律问题相区别的角度归纳AI的框架性法律问题,以便于探讨其整体法律规制。

首先,AI法律规制应当遵循何种价值取向,此系其法律规制的价值基础。鉴于替代人类的AI与以人为中心的法律在价值理念上存在巨大冲突,AI法律规制必然伴随价值取向问题,即AI法律规制在替代人类与增强人类之间应如何权衡、取舍,是顺应AI替代人类的理念与技术,还是予以矫正。

其次,AI可以替代人类,那么应否赋予AI主体资格,此系AI法律规制的逻辑前提。AI应否拥有主体资格直接决定其法律地位与规制路径,也直接影响对AI系列问题的分析逻辑。[34]诸多学者基于强人工智能已经或将要产生,甚至超级人工智能将来也会出现的趋势,动辄提出法律死亡论,否定传统法,[35]在主张AI拥有主体资格的前提下进行制度设计。但事实上,当前的AI技术条件以及哲学、认知科学上的研究却根本不足以支撑强人工智能必会出现的假设,遑论超级人工智能。

再次,使用AI替代人类从事各种活动是否正当、适法,应遵循何种规则,此系AI法律规制的具体手段。AI的适法性问题表现为其安全性、伦理正当性、敏感领域应用准入与使用规则等问题。例如,

AI在武器领域的运用是否应受限制?无人驾驶中的伤害选择应如何确定?在何种领域可使用AI进行机器决策以及应遵循何种程序?AI使得马克思·韦伯提出的自动售货机式的现代法官的设想成为可能,是否允许实现这种可能?对AI适法性问题的回答决定了各领域AI使用规则的制定。

最后,AI替代人类实施行为而产生的责任如何认定,此系AI法律规制的最终落实。AI责任问题的难点主要体现在责任主体、归责与因果关系的认定疑难上。第一,应当如何确定责任主体以及如何划定多主体间的责任分担比例?第二,在归责上,对不同类型的AI、不同应用场景应采取何种归责原则?若需考虑过错,如何确定相关主体的注意义务?在判定过错的有无与大小时,机器能否成为判断的对象,应在多大程度上考量AI开发流程、算法、应用方式与外部环境等因素的影响?第三,AI使得原本极为复杂的因果关系问题变得更为复杂,是该套用还是突破传统因果关系理论?如何合理切断过长的因果关系链条?在个案中应当如何进行因果关系认定,可否使用AI代替专家辅助人对标的AI进行逻辑回溯?在法律上如何破解AI固有的不可预见性所造成的难题?在行政法、刑法等领域讨论AI法律责任时也会遇到类似疑难。

(三)人工智能法律问题的解决思路

基于对AI法律问题根源与症结的分析,AI法律规制的关键在于解决AI与法律的根本性冲突并通过法律规范AI对人类的替代。从法律体系与立法成本的角度来看,基于前文对AI与IA的辩证统一关系、AI法律问题与IA法律问题承继关系的分析,对AI法律规制的探讨宜在IA法律规制的基础上,围绕AI替代人类的特性进一步展开。[36]前文所提炼的AI四项框架性法律问题正是从AI法律问题的产生根源出发,从与IA法律问题相区别的角度围绕AI替代人类而归纳得出。AI法律规制的基本思路应当是分析与解决此四项框架性法律问题,并向各领域延伸。

AI四项框架性法律问题涵盖了一般问题与具体问题,较为庞杂。其中,AI法律规制的价值取向与AI是否具有主体资格属于极为关键的一般性基础问题,关涉AI与法律之间根本性冲突的解决,指向AI法律规制核心基点的确立。前者回答了应当如何解决AI替代人类的理念与法律以人为中心的理念之间冲突的问题,确定了AI法律规制的价值基础。后者回答了应当如何解决AI以机器为中心的去人类化观念与法律上主客二分的观念之间冲突的问题,确定了AI法律规制的逻辑前提。诸多AI法律问题的研究便以这两项一般性基础问题为基础,在对这两项问题未达成基本共识、规制基点无法确立的背景下,对包括AI的适法性问题、责任问题以及AI作品、金融、交通与医疗等问题在内的具体问题的研究便难以深入。受限于问题性质及篇幅,下文仅探讨AI法律规制的价值取向问题与AI的主体资格问题。需要注意的是,AI本身便是多学科交融的产物,除自然科学外,AI与哲学、伦理学等人文科学也存在先天的紧密联系,在研究方法上,AI法律研究应当结合其他学科的研究,在许多问题上甚至需要以其他学科研究为基础,AI的这两项一般性法律问题便属此类。

三、人工智能法律规制应贯彻局部替代人类、整体增强人类的价值取向

AI与法律的理念冲突决定了从法律上规制AI首先需要对AI替代人类的理念进行评价,从整体上确定AI法律规制的价值取向,而不是如IA法律规制一样,仅需跟随技术的发展而作出调整。科学、技术具有双重价值性(正价值与负价值),[37]“AI将造福人类”的乐观论与“AI将毁灭人类”的悲观论分别指出了AI因替代人类而产生的双重价值。在替代人类与增强人类之间,法律不得不进行权衡、选择。有学者指出,要从人机协作和人机共生而不是人机对立的角度探寻发展“基于负责任的态度的可接受的AI”的可能性,应当意识到发展AI旨在增强人类而非替代人类。[38]笔者赞同这种观点。

AI的正价值在于机器智能的再次提升能够让人类的工作与生活更加便利,进一步改造产业模式、提升效率、推动经济发展、扩展对未知世界的探索。随之而来的问题却是AI可能会造成社会结构的巨大变革,冲击劳动力市场,引发严重的伦理困境。AI的本性便是去人类化的,以无人参与的闭环自动化为技术指向,甚至“将自动化本身予以自动化”,[39]在其技术架构中可以没有人类的存在。AI势必继续发展并发挥更大作用,若其以机器为中心、以替代人类为目标的特性不受约束,那么以人类为中心的社会将走向何方?目前已经出现了将人类事务交由AI进行机器决策的情形,若AI智能水平进一步提升,机器决策大规模扩张,将可能产生何种后果?人类连现今的非“智能”网络技术都无法保证安全,何以可能保证具有去人类属性的、强大的“智能”机器是安全的?哲学上的研究多是从认识论的角度研究AI


  ······

法宝用户,请登录打遮阳伞就显得很娘后查看全部内容。
还不是用户?点击单篇购买;单位用户可在线填写“申请试用表”申请试用或直接致电400-810-8266成为法宝付费用户。
【注释】                                                                                                     
©北大法宝:(www.pkulaw.cn)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料,正式引用法规条文时请与标准文本核对
欢迎查看所有产品和服务。法宝快讯:如何快速找到您需要的检索结果?    法宝V5有何新特色?
扫码阅读
本篇【法宝引证码CLI.A.1263205      关注法宝动态:  

法宝联想
【相似文献】
【作者其他文献】

热门视频更多