查找:                      转第 显示法宝之窗 隐藏相关资料 下载下载 收藏收藏 打印打印 转发转发 小字 小字 大字 大字
【期刊名称】 《东方法学》
智能机器人法律人格问题论析
【作者】 孙占利
【作者单位】 广东财经大学法治与经济发展研究所、法学院{教授,法学博士}
【分类】 人工智能
【中文关键词】 人工智能;自主意识;人性化;法律人格;人类中心主义
【期刊年份】 2018年【期号】 3
【页码】 10
【摘要】 初期的人工智能仍属于工具范畴,自主智能机器人的“自主意识”和“表意能力”是赋予智能机器人取得法律人格的必要条件,其“人性化”将直接影响甚至决定其法律人格化。“工具论”“控制论”“拟制论”将渐次成为解决其法律人格的可能方案。自主智能机器人将可能先成为著作权等特定权益的主体,其权益变相归属于公共领域。强人工智能时期可能出现具有拟制法律人格或类法律人格的智能机器人,传统法律制度将出现颠覆性的变革。
【全文】法宝引证码CLI.A.1236480    
  
  人工智能的法律问题是近年来的研究热点之一,学术界就智能机器人的法律人格、无人驾驶的民事责任、人工智能创作物的权属、法律职业替代、社会风险控制等问题进行了积极而有富有价值的研究。法律作为一种明确的、可预测性的规定,企业和个人可以通过法律得知什么是禁为和应为的行为,从而将自己的行为纳入制度允许的轨道。法律制度还规定了权利和义务,具有利导性,能够进一步通过其激励机制引导人们的行为,并通过强制功能规范人们的行为。[1]在人工智能的诸法律问题中,首当其冲的是法律人格问题。笔者将在对国内外的代表性观点进行梳理和借鉴的基础上对其中的法律问题进行探讨。
  一、智能机器人[2]的法律人格问题的缘起
  1950年,图灵发表了《计算机器与智能》,提出机器可以有思维,并提出了著名的图灵测试,该文为图灵赢得了“人工智能之父”的美誉。1956年的达特茅斯会议勾画了人工智能研究的蓝图,会议的发起人麦卡锡起草的倡议书中使用的AI一词也得以确立,达特茅斯会议被认为是人工智能诞生的标志。
  2017年被称为人工智能年。这一年里,在人机围棋大战、德州扑克比赛等竞技中,智能机器人取得了骄人的成绩。索菲亚更是被沙特授予公民身份,成为第一个取得公民身份的机器人。2017年5月,微软智能机器人“小冰”的原创诗集《阳光失了玻璃窗》正式出版,售价近50元。这是人类历史上第一部100%由人工智能创造的诗集。微软还让“小冰”在天涯、豆瓣、简书等平台,用27个笔名发表自己的诗歌,不过读者们并没有发现“骆梦”“风的指尖”等笔名的“诗人”并非人类。从事实上来看,微软、出版社及公众都认为诗集的作者是“小冰”。但在法律上,因为“小冰”不具有法律人格,并不能成为著作权的主体。虽然产生了这些法律问题,但却隐含着微软向世人宣告具有创造性的机器人的诞生,昭示着科技的进步将为人类产生新的福祉和带来新的挑战。
  2016年,微软开发的聊天机器人Tay在Twitter上线。 Tay在部分用户的刺激下开始发表种族歧视、性别歧视的言论,旋即被微软下线。之后微软声明是因为有人利用了一个漏洞对Tay展开攻击。更为不幸的是,机器人杀人和伤害等“犯罪”事件屡见不鲜。1978年日本一家工厂的切割机器人突然“转身”将工人抓住并切割,这是世界上第一宗机器人杀人事件。另一件曾轰动全球的事件是1989年人工智能机器人落败于苏联国际象棋冠军后释放强电流致使冠军身亡。此外,机器人“自焚”后引燃房屋、机器人打人等事件也见诸媒体。此类事件引发了人们的忧虑,也引起了侵权主体、犯罪主体及其法律责任的探讨。
  吴汉东教授认为,对于人工智能引发的现代性的负面影响,有必要采取风险措施,即预防性行为和因应性制度。面向未来时代的调整规范构成,应以人工智能的发展与规制为主题,形成制度性、法治化的社会治理体系,包括以安全为核心的法律价值目标、以伦理为先导的社会规范调控体系和以技术、法律为主导的风险控制机制。借鉴国外经验,立足本土需要,当前应尽快出台“国家发展战略”,及时制定“机器人伦理章程”,适时进行机器人专门立法。[3]从人工智能创作内容的版权归属、无人驾驶的责任认定、自动生成裁判文书情况下的裁判主体与效力等问题可以看出,此问题已经是一个现实法律问题。
  从法律角度来看,法律人格直接关系到法律关系的主体问题,关系到能否以其身份自主设立、变更及终止法律关系。申言之,关系到主体的权利、义务及法律责任,也关系到权利能力和行为能力问题。法律关系源于法律对社会关系的调整,因此,也会进而影响到社会关系和社会秩序问题。从法治实践的角度看,关系到智慧立法、智慧执法、智慧司法、智慧法律服务的主体与效力等问题。从法理的角度看,传统的法律制度是基于人与人之间的社会关系。如果赋予智能机器人以法律人格,传统法律的调整对象将演变为三种社会关系:人与人之间的社会关系、人与智能机器人的社会关系、智能机器人之间的社会关系。从国际法角度看,智能机器人的法律人格关系到国籍、战时平民保护、机器人武器的作战主体与作战手段等问题。
  总之,法律关注的是主体及主体的法律关系与法律责任,主体问题是首先要解决的问题,否则无法解决法律关系与法律责任问题。因此,智能机器人的法律人格问题也是相关法学研究和法律实践中首当其冲的问题。
  二、智能机器人的法律人格问题的主要观点
  近年来,随着人工智能及其应用的快速发展和对人类社会产生的巨大影响,关于智能机器人的法律人格问题的讨论比较多,代表性观点主要如下:
  (一)电子人或法律人格说
  2016年5月31日,欧盟委员会法律事务委员会提交一项动议,要求欧盟委员会把正在自动化智能机器“工人”的身份界定为“电子人”的身份,并赋予这些机器人依法享有著作权等特殊的权利与义务。众所周知,沙特更是直接赋予智能机器人索菲亚以公民身份。
  (二)有限法律人格说
  袁曾认为,人工智能具有独立自主的行为能力,有资格享有法律权利并承担责任义务,人工智能应当具有法律人格。但由于人工智能承担行为能力的后果有限,人工智能适用特殊的法律规范与侵权责任体系安排,其具有的法律人格是有限的法律人格。为调整适应人工智能有限法律人格的规制安排,必须明确人工智能归责原则,通过强制投保责任险、确立以人为本的监管体系、加速《人工智能发展法》立法等体系性安排,促进人工智能在可控的范围内发展。[4]
  (三)次等法律人格说
  杨清望、张磊认为,为了适应社会发展,解决新矛盾新纠纷,必须从人类的权益出发,运用法律拟制的立法技术赋予人工智能次等法律人格,借鉴法人制度建立人工智能登记备案制,完善人工智能的法律责任制度。这一方面有利于促进人工智能更好服务于人类,另一方面确保其不异化为“超人类”的主体。将人工智能界定为“有限”法律人格并不能阐明人工智能法律人格的根本属性,因为人工智能是人类的创造物,重要的是要把它的法律人格同人类主体的法律人格区别开来并赋予其独立的法律人格,而不只是在既有法律框架内通过对自然人权利能力限缩的方式实现。[5]
  (四)位格加等说
  张绍欣认为,现代法人制度通过“位格加等”把人为设置的团体提升到具有一定人格权的地位,人工智能概念则通过“位格加等”把机器人提升到自然人的法律位格。“图灵测试”摧毁着传统法律人类学的位格等级制度。根据“图灵测试”,在人的身体与机器之间作出位格等级区分是没有必要的;而人的智能又是不可知不可评估的,因而不能用智能作为标准来区分人与机器。在“赛博格”和“赛博人”的时代,法律拟制正在从人类中心主义向“超人类主义”转换——不是把低于人类的事物拟制到人类的位格等级,而是要把人向“超人”的位格来提升和拟制。[6]
  (五)人格类比说
  Gabriel Hallevy认为,人工智能没有灵魂,其法律人格毕竟有限,即使将来拥有自我意志也无法存在繁殖性的肉体或者真实感情,在刑法对待人工智能的法律地位上,与公司的法律地位无异。[7]此外,F. Patrick Hubbard建议可以将自主性机器人视为儿童或动物,这样使用者就有义务去注意机器人的行为,在机器人造成损失的时候根据比例原则等承担过错责任。[8]不过,该观点实质上是采用转化或类推适用的方式来解决法律问题,并非直接主张赋予人工智能以法律人格。
  (六)电子代理人说
  “电子代理人”一词最早见于美国法学会和美国统一州法全国委员会拟订的《统一计算机信息交易法》(1999年7月美国统一州法全国委员会通过并向各州推荐采用)。1999年8月美国统一州法全国委员会通过的《统一电子交易法》(修订稿)第2条也有关于电子代理人的定义,“电子代理人”系指非经人的行为或审核,全部或部分独立地发起某种行为或应对电子记录或履行的计算机程序、电子手段或其他自动化手段。该法原来使用的是“电子设施”一词,受《统一计算机信息交易法》的影响,也改用“电子代理人”。2003年美国《统一商法典(买卖篇)》沿用了此概念。此外,受美国立法的影响,加拿大的《统一电子商务法》(1999年通过)也使用了“电子代理人”。即使在《统一计算机信息交易法》和《统一电子交易法》中,其所称的“人”也并不包括电子代理人。该等法案所称的“人”指个人、公司、商业信托、信托、合伙、有限责任公司、协会、合资企业、政府部门和机构、中介或代理、公共法人、或任何其他法律或商业实体。[9]
  (七)利益平衡说
  司晓、曹建峰认为,为了更合理、有效地对智能机器人造成的损害分配法律责任,严格责任、差别化责任、强制保险和赔偿基金、智能机器人法律人格等都可作为潜在的法律方案;但立法者或者法院最终选择何种方案,需要进行全方位的论证,以便实现法律的利益平衡目的。[10]
  (八)权利与责任一体说
  Aishwarya Limaye认为,即使是最超前的机器人责任政策立法也没有将自主性机器人作为责任主体,原因是因为机器人的法律地位并不明确,若要确定机器人的责任,首先要确定机器人的宪法基本权利,比如美国宪法第二修正案的携带武器的权利和宪法第一修正案的言论自由权。[11]该观点也可称为法律地位说。
  (九)控制说
  吴汉东认为,“受自然人、自然人集合体——民事主体控制的机器人,尚不足以取得独立的主体地位。”[12]换言之,如果出现不受民事主体控制的机器人,是有可能取得独立的主体地位的。
  (十)机器或工具说
  郑戈认为,机器人无论以何种方式承担责任,即使提出了“电子人”的概念,最终的责任承担者都是人。这使得它的“法律人格”显得多余和毫无必要。[13]郝铁川认为,人工智能无法成为法律关系的主体。人类可以制造人工智能,也可以毁灭人工智能。人工智能是孙悟空,而人类却是如来佛和唐僧。人工智能属于劳动工具。劳动工具为人所造、为人所用,它怎么可能取代人呢?第一,人工智能是人控制之下的、人能力的延伸物,它本身没有内源性的行为能力,也没有内源性的权利能力。第二,人工智能缺乏法治所需要的辩证逻辑思维能力。第三,人工智能没有运用法律原则和模糊性法律规范的能力,在解决疑难复杂和新型案件方面一筹莫展。第四,人工智能没有判断证据真伪的能力。第五,人工智能不具备讨价还价、灵活多变的调解能力。总之,人工智能只能在某些方面帮助人类从事法治活动,而根本改变不了人在法治中的主导作用,因为它不是人,是人造的机器。[14]
  当前关于法律人格问题的讨论,总体上是以自主智能机器人为研究前提的,大体上可以分为三类观点,即肯定说、否定说及在一定条件下赋予智能机器人法律人格,具体的观点和论证也不尽相同,甚至对该问题是否属于真问题也有争议,可谓“百花齐放,百家争鸣”。赋予智能机器人法律人格的立法条件并不成熟,然而,对此问题的科学探讨有助于对现实存在的法律问题提出解决建议。一些观点根据人工智能的发展现状和技术原理洞察其发展趋势,前瞻性地提出了不同的法律解决方案,其学术价值也是值得肯定的。值得注意的是,在是否赋予法律人格和赋予何种法律人格的探讨中,上述研究成果使用了“独立自主的行为能力”“法律地位明确”“民事主体控制”“劳动工具“”权利能力和行为能力”“灵魂、肉体、感情“利益平衡”等作为”标准,可见,在这个问题上观点也是不尽一致的。
  三、智能机器人的法律人格问题的思考
  (一)机器学习使得探讨智能机器人的法律人格问题并不为时过早
  以前盛行的人工智能探索试图把人类思维变成符号操作法,例如变成计算机可以理解的语言或数学。而机器学习恰好相反,它是建立和改善算法的过程,算法规则可以根据数据得出结论。算法与程序截然不同,是要求一台计算机遵守的一系列规则或指令,而程序是给计算机下达明确精准、按部就班的指令。[15]20世纪的相关讨论尚局限于或主要基于自动化程序,机器学习使人工智能发展到不再是按照下达的指令来运行,其运算的过程是“黑箱”,运算的结果(例如决策或判断)也是开发者无法预计的。
  2017年,Facebook人工智能研究所对两个聊天机器人进行对话策略迭代升级,结果它们竟试图创造出人类无法理解的语言进行交流。2015年,波士顿塔夫茨大学人机交互实验室向来访者展示了敢于违逆人类命令的机器人。一旦会拒绝人类指令的机器人出现,就意味着机器人有了自己的推理能力。2013年,能够感知人类情感变化或外部环境的一千台机器人“胡椒”在一分钟内被一抢而光,“胡椒”的功能源于“类似内分泌系统的多层神经网络”。出于保护开发者的绝对主导地位,很多科学家对那些反抗人类命令的智能技术研究往往是浅尝辄止。[16]然而,基于行为失范现象的理性观察和深刻了解,法律人是不会对此完全信赖的。
  此外,我们不应将立法条件和研究条件混为一谈。即使立法条件不成熟,只要存在现实问题或预见到问题的现实发生可能性,就应当积极投入研究。诚如卡鲁姆·蔡斯所言“;我们不必对这种结果完全肯定时才觉得有必要监控发展情况、制定应变计划。毕竟,要看到奇点边界事件并非易事。……如果我们不能取得积极成效,那就有可能活该成为数字超人工智能的引导加载程序,而不是它的线粒体。”[17]我国政府高度重视相关问题的研究,国务院《“十三五”国家科技创新规划》提

  ······

法宝用户,请登录后查看全部内容。
还不是用户?点击单篇购买;单位用户可在线填写“申请试用表”申请试用或直接致电400-810-8266成为法宝付费用户。
【注释】                                                                                                     
©北大法宝:(www.pkulaw.cn)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料,正式引用法规条文时请与标准文本核对
欢迎查看所有产品和服务。法宝快讯:如何快速找到您需要的检索结果?    法宝V5有何新特色?
本篇【法宝引证码CLI.A.1236480      关注法宝动态:  

法宝联想
【相似文献】
【作者其他文献】

热门视频更多