查找:                      转第 显示法宝之窗 隐藏相关资料 下载下载 收藏收藏 打印打印 转发转发 小字 小字 大字 大字
【期刊名称】 《东方法学》
人工智能有限法律人格审视
【英文标题】 The Limited Legal Status of AI【作者】 袁曾
【作者单位】 大连海事大学法学院{博士研究生}【分类】 人工智能
【中文关键词】 人工智能;法律人格;人权;数据安全【期刊年份】 2017年
【期号】 5【页码】 50
【摘要】 现行法律体系下对于人工智能的法律人格规制缺位,造成实践应用缺乏法律价值指引,人工智能的法律地位与具体规制亟待明晰。人工智能具有独立自主的行为能力,有资格享有法律权利并承担责任义务,人工智能应当具有法律人格。但由于人工智能承担行为能力的后果有限,人工智能适用特殊的法律规范与侵权责任体系安排,其具有的法律人格是有限的法律人格,域外法律对此已有立法借鉴。为调整适应人工智能有限法律人格的规制安排,必须明确人工智能归责原则,通过强制投保责任险、确立以人为本的监管体系、加速《人工智能发展法》立法等体系性安排促进人工智能在可控的范围内发展。
【全文】法宝引证码CLI.A.1228694    
  人工智能前景广泛、应用丰富,[1]现阶段23%的律师业务已可由人工智能完成。[2]人工智能目前已实现自动驾驶航空器、完成高考试卷,甚至有学者提出将人工智能应用于法律裁判。[3]人工智能已进入社会生活,而与之相关的法律规制却未能跟上人工智能技术前进的节奏。2017年7月,百度总裁李彦宏乘坐无人驾驶汽车行驶在北京五环路上引起了巨大争议,交管部门认为此行为违反现行《道路交通安全法》。
  2017年7月20日,国务院印发《关于新一代人工智能发展规划的通知》,[4]明确提出把人工智能发展放在国家战略层面系统布局,牢牢把握战略主动。一般认为,人工智能是人机环境系统交互的产物,[5]但迄今人工智能尚无一个能被广泛接受的定义。笔者认为,具有类似人类独立思考与深度学习的能力是人工智能与其他科技最大的差异。艾伦·图灵等计算机大师曾提出人工智能迟早会威胁到人类生存,必须在问题积重难返前,对人工智能的发展作出妥善的法律规制安排,以引导实践的发展。在技术的发展过程中,人工智能的法律地位、法律责任、权利义务范围等法律规制该如何界定?对于这些问题,现行法律规制并无明确的解答。在法律制度无法有效应对实际情况时,法律理论理应出场,[6]首先需要明确的问题就是人工智能是否具有法律人格,即人工智能是否等同于法律意义上的人,具有什么程度的权利与义务。人工智能的法律人格问题直接关系着侵权责任承担、知识产权应用、数据应用安全、价值一致性判断、机器伦理学等一系列基础理论的发展决策。
  一、人工智能的法律人格规制缺位
  法律人格,是指法律认可的一种享受权利、承担义务的资格。包括自然人主体、法律拟制主体两种形式。对于任何自然人,法律均承认其法律人格,民法上分为无民事行为能力人、限制行为能力人与完全行为能力人,但法律人格伴随自然人终生。对于法律拟制主体的人格,则需要经过法律规定的程序方可取得,例如有限责任公司的设立等。[7]简单地说,法律人格是某一主体能否成为法律意义上“人”的资格,是其享有权利、履行义务的基础。人格是可以扩展于自然之外的实体的,[8]但现行体系下,人工智能是否具有法律人格并不明晰,造成现实的适用困境。
  (一)缺乏法律价值指引
  每一项重大科技应用前后,均有对其的争论。20世纪90年代克隆技术的成功就曾产生过巨大争议,其中最大的焦点在于是否允许生理性繁殖克隆人。1997年11月,联合国教科文组织制定《人类基因组与人权世界宜言》第11条明确规定,应当禁止生殖性克隆人类。2000年4月,日本内阁会议通过关于《限制对人的克隆技术的法律草案》,禁止克隆人类。国际社会明确克隆人不具有法律人格,立法禁止克隆人类,但对人工智能的态度含混不清。对于克隆人的主要担心在于其诞生将扰乱人类社会基础的血亲伦理关系,由于人工智能在繁殖方式、发展方式上均存在根本不同,因此学界主要担忧人工智能发展程度过高后会反制人类。按照趋势,人工智能的发展必将会在未来出现突破,但现行法律规制对于人工智能法律人格的态度模糊,[9]特别是在人工智能权利、侵权责任主体等关键问题上的缺位,使得人工智能的发展缺乏法律价值的引领。
  (二)法律地位不明
  由于人工智能的法律人格概念不明,导致其法律地位并不清晰。作为具有独立思考能力的客体,人工智能可以“深度自主学习”、使用“神经网络”,人工智能具有此种类人特性,是否应当赋予人工智能以人权?从法哲学的角度分析,是否应当认同“人工智能等同于人”的根本问题?如果不能,人工智能技术应当作为何种法律主体、具有何种法律地位?人权,是作为个体的人对于自己基本利益的要求与主张,这种要求或主张是通过某种方式得以保障的,它独立于当事人的国家归属、社会地位、行为能力与努力程度,为所有的人平等享有人权是人之为人的最基本的权利,是一切利益和权利的前提和基础。[10]如果人工智能适用人权及人权伦理体系规制,则其法律地位是否等同于人类?若其具有人类完全相同的法律地位,则是否会出现人工智能机器人享有婚姻权同人类通婚,从而导致现行法律体系逻辑乃至人类赖以生存的伦理社会的崩塌?
  (三)缺少具体规则标准
  人工智能的短期影响取决于谁控制人工智能,而长期影响则取决于人工智能到底能否受到任何控制,人工智能的运用与发展需要法律人格的明确。从现实情况分析,现有规制并无法有效规制快速发展的人工智能技术。根据笔者2017年7月的实地调研,目前深圳人工智能产品由深圳市场监管委进行审批,但申报的类目为玩具类,所有的申报标准与文件均按照相应玩具标准进行审批,在海关进出口过程中也并无人工智能这一单项列出,目前暂时仍作为玩具进出口,显然无法满足人工智能产品的生产与发展。笔者认为,有关人工智能发展的具体法律规制,至少应当包括以下几个方面的内容:第一是明确人工智能具有法律人格,确定人工智能享有的权利与义务边界;第二是确定人工智能侵权的相关原则,若发生侵权事故时该怎样认定相应的法律责任,适用怎样的归责原则;第三是重视开发应用人工智能技术时对于数据与隐私的保护;第四是确定人工智能的有效监管规则。通过合适的具体规则标准,优化发挥法律对于人工智能的引导与监管作用。
  二、人工智能具有法律人格?
  法律规制的最终目标是构建和谐可靠的人工智能应用体系,在促进人工智能发展上,有必要通过法律的系统性调整以确保人工智能在可控的范围内有序发展。《关于新一代人工智能发展规划的通知》提出,建立保障人工智能健康发展的法律法规框架。必须开展人工智能法律人格问题研究,明确人工智能具有法律人格。
  (一)人工智能是特殊性质的法律主体
  对于人工智能的性质,学界一直有不同争论。普遍流行的有工具说、电子奴隶说、代理说等。[11]工具说认为人工智能是人类为生产生活应用而创设的技术,其本质是为人类服务的工具。工具说认为人工智能无独立的意思表示能力,并不承认人工智能具有独立的法律人格。电子奴隶说认为人工智能不具有人类特殊的情感与肉体特征,在工作时无休息等现实需要,可以认作不知疲倦的机器,有行为能力但没有权利能力。代理说认为人工智能的所有行为均是为人类所控制,其作出的行为与引起的后果最终必须由被代理的主体承担。上述三种观点均存在不同程度的缺陷,工具说将人工智能作为工具,但忽视了人工智能技术已经发展到可以作出独立意思表示的阶段,瑞士已有雇主为机器人缴纳雇员税的先例。再如特斯拉公司生产的电动汽车,已经实现了不需要驾驶员操作的无人驾驶,能够独立自主进行选择判断,其工具属性早已不属于无意思表示能力的传统“工具”。电子奴隶说认为人工智能并不具有权利能力,其引起的后果归属于其拥有者,虽解决了人工智能承担法律责任的主体问题,但实际上是延伸的工具说,否认人工智能的独立主体地位。代理说中对于人工智能的代理地位的确认其实已承认人工智能具有独立的法律人格,[12]即在人工智能拥有权利能力与行为能力时,其才可能作出履行被代理人指令的行为,但代理人说并无法解决主体承担责任的公平性问题,在人工智能完全自行作出意思表示时,由制造者还是使用者作为承担责任的被代理人?笔者认为,人工智能是人类社会发展到一定阶段的必然产物,具有高度的智慧性与独立的行为决策能力,其性质不同于传统的工具或代理人。在现实条件下,将人工智能定义为具有智慧工具性质又可作出独立意思表示的特殊主体较妥。
  (二)人工智能享有法律权利
  “机器人不得伤害人类;机器人必须服从人类的命令,除非这条命令与第一条原则相矛盾;机器人必须保护自己,除非这种保护与以上两条原则相矛盾。”以上是著名科幻作家,“机器人学之父”阿西莫夫提出的“机器人三原则”。第2条中“机器人必须保护自己”实际就是给予人工智能自我保护的权利。西方哲学家认为技术发展到一定程度后必然会有精神,如果技术发展更加智慧,它就会像大脑成为精神的更好载体。[13]按照上述观点,人工智能应该有权利,不是因为它们像人类,而是因为它们具有精神。[14]权利向新实体扩展是需要经过漫长过程的。大陆法系下,独立的法律人格需要具备社会存在与法律确认这两个必须条件,即需要独立自主地作出意思表示并得到法律明确的确认。在现有技术条件下,人工智能已可签订合同、管理公司,其独立自主作出意思表示的能力已得到实现,但暂时还未得到法律确认。在此境遇下,人工智能能否要求权利?其能否具有维持健康、获得姓名的权利?其能否按照自我逻辑与算法作出价值判断?其在过载时能否具有休息的权利?
  若人工智能没有权利,就不会有法律地位,在法律上就不是真实的。[15]根据斯通纳的观点,某一主体能否拥有法律权利应满足下列条件:第一,该主体应其要求可以提起法律诉讼;第二,法院在决定授予法律救济时必须考虑到损害;第三,法律救济必须满足它的利益要求。[16]人工智能已可以应用于司法裁判,其自行提出诉讼要求并无实践难度。法院在决定救济时应当考虑到人工智能受到的损害。例如,摧毁或“谋杀”人工智能应当受到惩罚。人工智能虽然本质上仍是工具,但这种智能可能造价高昂并且承载人类或社会的感情,因为普通机器并不具有思考与交流的能力。若有人删除了孤寡老人的陪伴型人工智能机器人的记忆模块,则有可能导致这种独特记忆的永久消失并无法复原,从而造成更为严重的精神损害。法律救济满足人工智能的利益要求并非不可能。例如停止侵害、排除妨害均可适用于人工智能的救济。综上所述,人工智能可以满足上述法律权利的三项条件,具有公认价值与尊严,理应享有法律权利。
  (三)人工智能必须承担法律责任
  1978年日本广岛的摩托车厂机器人突然转身将其背后的工人抓住并切割,1989年全苏国际象棋冠军击败人工智能机器人,但机器人自主释放强电流致使冠军身亡,人工智能侵权的事件事实上早已存在。随着人工智能的不断发展,其依靠独立自主意识而作出的不可预测行为将变得更加危险。人类必须为自己的行为付出代价,人工智能同样如此,并不因为人工智能并非人类就可以逃脱法律制裁,总有主体需要为作出的行为负责。
  若人工智能犯罪,应当适用怎样的惩罚机制?而又应当如何避免此种犯罪行为的发生?人工智能在未来会面临更加复杂的伦理安全问题,Google DeepMind等机构已设立了伦理审查委员会,由不同知识背景和经验的专家组成,最大限度地考虑此问题。人工智能作为有独立意识特性的特殊法律实体,法律需要向更前沿发展,而人工智能必须设计成为具有可责性与可验证性的实体,其中包括开发数据记录全留存以便侵权后查验、主动告知人工智能风险、扩大人工智能相关数据披露范围、大规模商用前现行测试等,尽最大努力减少人工智能可能造成的危害从而减轻相应法律责任。
  三、人工智能的法律人格有限
  以法律手段调节生命社会关系,应是最有力、最有效、最稳定、最普遍的。[17]从人工智能的特性分析,其具有独立自主意识的智慧工具属性,享有权利并承担责任的独特特点决定了其具有法律人格。但这种法律人格同自然人或现有的拟制法人并不完全相等,虽然人工智能可以作出独立自主的行为,但其承担行为后果的能力是有限的。在人工智能法律人格有限的前提下,方可对法律规制作出合理的安排。
  (一)域外人工智能立法借鉴
  人工智能的法律人格有限,是指其法律人格与自然人或公司不同,并不具有承担完全责任的能力与地位。虽然人工智能可以取得权利并承担一定的义务,但其价值观的形成与人类毕竟存在根本不同,人工智能的深度学习与应用主要依靠的是各种复杂的算法与数据记录应用,在运用算法的过程中,很难保证人工智能的每次独立自主行为均能作出合理合法的价值判断。对于人工智能的规制,还必须依赖于立法的体系性安排,确保人工智能的发展与应用在合理的区间范围内运行。
  在人工智能具有有限法律人格的层面上,国外立法已作出一定的尝试:一是立法者和执法者应确保人工系统不被滥用,法律必须在公民隐私保护与新兴技术发展间寻找到恰当的平衡。[18]在使用数据的层面,已存在不少习惯法,如目的明确、最少够用、公开告知、个人同意等原则。1998年英国《数据保护法》与2016年欧盟《个人数据保护通用条例》规定,禁止一切未经同意的非法使用公民个人数据的行为。这些法律规则非常实用,并提议建立沙箱区域以在控制所有可能的变量前提下,安全地控制和引导错误使用数据的行为。在“大数据”时代,数据是宝贵的财富,也直接关系人身安全,已有利用人工智能非法窃取网络信息的先例。[19]人工智能系统对于个人数据的使用必须遵循规范的准则,滥用数据或窃取隐私将受到刑罚的规制,在人工智能的发展上,必须考虑能否保护公民的数据及隐私、能否一视同仁地对待每个公民的数据,以及能否保证公民个人信息的完整。使用非公共数据必须征得数据所有人同意。二是延伸身份保证范式,以保持法律责任链条的明确性。个人识别信息是个人拥有绝对控制权的资产,法律应给予优先保护。2009年5月12日,欧盟委员会制定并通过《射频识别技术应用中隐私和数据保护原则的建议》,该建议中就明确包含信息和透明

  ······

法宝用户,请登录后查看全部内容。
还不是用户?点击单篇购买;单位用户可在线填写“申请试用表”申请试用或直接致电400-810-8266成为法宝付费用户。
【注释】                                                                                                     
©北大法宝:(www.pkulaw.cn)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料,正式引用法规条文时请与标准文本核对
欢迎查看所有产品和服务。法宝快讯:如何快速找到您需要的检索结果?    法宝V5有何新特色?
本篇【法宝引证码CLI.A.1228694      关注法宝动态:  

法宝联想
【共引文献】
【相似文献】
【作者其他文献】
【引用法规】

热门视频更多