查找:                      转第 显示法宝之窗 隐藏相关资料 下载下载 收藏收藏 打印打印 转发转发 小字 小字 大字 大字
【期刊名称】 《法律科学》
人工智能刑事主体地位之否定
【作者】 时方【作者单位】 中国社会科学院法学研究所
【分类】 人工智能
【中文关键词】 人工智能;刑事责任;主体地位;刑罚目的
【英文关键词】 artificial intelligence; criminal responsibility; subject status; aim of punishment
【文章编码】 1674-5205(2018)06-0067-(009)【文献标识码】 A
【期刊年份】 2018年【期号】 6
【页码】 67
【摘要】

当前人工智能本质上是人类辅助工具,不具有法律上的人格属性。虽然人工智能的目标在于使机器像人一样思考并获得独立自主学习的能力,但其行为不论是依照预先设定的程序运行还是脱离程序设计的自主运行,欠缺法规范遵从能力的意志性,即使客观上造成法益侵害后果,同样不具有刑法上的可归责性。意志自由是认定刑事主体地位的关键要素,包括认识要素与意志要素,人工智能与法人虽然都不具有人类肉体与意识的生理构造,但法人特殊的运作机理符合刑事主体地位认定的实质要求,当前人工智能并不具备。通过检视刑罚目的实现与否,以从反面论证当前对人工智能没有必要作为刑事主体认定。

【英文摘要】

At present, artificial intelligence is essentially a human auxiliary tool, and it does not have legal personality attributes. Although the goal of artificial intelligence is to make the machine think like human beings and acquire the ability of autonomous learning independently, it doesn't bear criminal liability for lacking of the will of capacity to comply with the law regardless of its behavior runs in accordance with the predefined program or out of the program design, even if it objectively results in the legal interests of the consequences. Free will is the key factor that determines the status of the criminal subject, including factors of the understanding and factors of the will. Although neither artificial intelligence nor legal person has the physiological structure of human body and consciousness, the special operating mechanism of legal person conforms to the essential requirement of the recognition of criminal subject status which is very different from current artificial intelligence. By examining whether the purpose of punishment is realized or not, we can prove that it is not necessary as the criminal subject for artificial intelligence at present.

【全文】法宝引证码CLI.A.1252256    
  一、问题的提出
  随着人工智能在商业、交通、医疗、教育等社会各领域的广泛应用,带来极大便捷的同时,也使得基于技术发展存在的固有风险造成相应人身、财产侵害时有发生,对此产生的责任认定问题逐渐引起法学界的关注:例如民法领域,人工智能系统致人损害时的侵权责任判断,是由机器人的制造者、管理者还是基于人工智能超越原控制方案的“自身行为”承担侵权责任;劳动法领域,人工智能机器人作为“工人群体”大规模使用后,其劳动者主体地位如何确立;{1}以及在知识产权保护领域,当前各国著作权法通常否认自然人以外的主体能够实施创作行为,明确了创作主体的自然人身份,从而引发人工智能创作物能否成为版权法意义上作品的争论。{2}
  人工智能同样在刑事法领域引发一系列问题,例如自动驾驶汽车造成的交通事故能否追究汽车的刑事责任[1],在工业生产中智能机器人实施的人身伤害行为刑事责任主体为何[2],以及通过网络搜索引擎编排出的侮辱性词汇能否针对智能机器人成立侮辱、诽谤罪名等[3]。在刑事法领域探讨人工智能的刑事主体地位主要为解决人工智能(机器人)能否成为刑事法律上的责任主体,在发生侵害法益结果时能否对人工智能单独施加刑罚措施等问题[4]。代表性观点指出,人工智能机器人是由程序设计和编制而成且具有辨认控制能力和学习能力,同时能够自主思维、自发行动的非生命体。当人工智能机器人超越程序的设计和编制范围,按照自主的意识和意志实施犯罪行为,则完全可能成为行为主体而承担刑事责任。{3}对于上述观点笔者持怀疑态度,人工智能能否具有刑事主体地位,既需要对刑事责任认定标准进行实质性判断,同时也要结合人工智能发展的实际情况进行具体分析,此外还应当从刑罚目的能否实现等方面加以全面考察。
  二、人工智能运作机理考察
  从技术的运作机理角度考察,人工智能作为计算机学科的研究分支,旨在建立智能计算机系统,实现机器模拟人的某些思维过程和智能行为,如学习、推理、思考、规划等。经过半个多世纪的发展,人工智能已成为当今世界最热门、最前沿的科学研究领域,并成功实现由理论研究转化为可供社会服务的新兴产品,真正走出实验室并广泛运用到社会生产、生活的方方面面。而技术的运用并不会是孤立的,当人工智能技术运用到社会生活中并与现实法律制度产生碰撞,由此产生的问题将涉及伦理学、教义学、心理学、行为学、哲学等多学科知识的综合性交叉学科。{4}
  (一)人工智能“类人”属性考察
  任何尖端的技术都应当是“聪明”的,当其融入到社会生活中时应该能够为人们简单明了地接受,通俗地讲,人工智能是指经过人类创造性工作使得某事物实现像人类一样智能化的程度,从而替代人类解决现实生活中的问题。其中“人工”就是赋予人的创造性工作,是人类的外在客观活动,而所欲实现的目标是使得原本没有功能属性的事物产生类似于人类的智能化效果。人工智能正是在人的创造基础上,使得本身不具有人类属性的事物可以像人一样工作,从而解放人的生产力。“人工”受限于技术水平,直接影响到“智能”的程度,即某一事物达到何种现代化的高级程度,才能区别于非智能化的普通生产、生活工具。虽然当前在不同生产、生活领域并未实现对人工智能产品进行清晰的类型罗列,也无法在法律层面对其智能化程度提供精确判断标准,但根据程序运行的算法复杂程度以及能否真正实现推理、思考并解决问题,科技界较为一致的观点是将人工智能分为弱人工智能和强人工智能。
  弱人工智能是指不能真正实现推理和解决问题的智能机器,这些机器表面看像是智能的,能够像人类一样的思考甚至进行深度学习,但其并不真正拥有智能,也没有自主意识。迄今为止的人工智能系统都处于弱人工智能阶段,即只是实现特定功能的专用智能,其与人类最本质的区别在于不能像人类智能那样不断适应复杂的新环境并不断涌现出新的功能。目前人工智能技术取得的飞速发展主要集中在专用智能领域,如语音识别、图像处理和物体分割、机器翻译等方面所取得的重大突破,甚至可以接近或超越人类水平,但其智能化水平仅限于特定功能领域。
  强人工智能是指达到人类水平的、能够自主适应地应对外界环境挑战的、具有自我意识的人工智能,又可称为“通用人工智能”、“类人智能”等,其本质在于智能机器人处理不同事务时拥有进行自主思考的能力,具有作为独立主体的自我意识与身份认同。根据强人工智能的技术构想与规划,具体可分为“类人”与“非类人”两大类,前者是指人工智能机器人的思考和推理类似人的思维,后者是指人工智能机器人产生了和人类完全不一样的知觉和意识,使用和人完全不一样的推理方式,但两者在处理问题的能力上都不低于甚至超出人类水平,因而也就不必完全服从于人类的指令而可以自主运行。强人工智能不仅在哲学上存在巨大争论,涉及到思维与意识等根本问题的讨论,在技术上的研究也具有极大的挑战性。限于科技发展的现实水平,强人工智能技术鲜有进展,美国私营部门的专家及国家科技委员会比较支持的观点是,强人工智能至少在未来几十年内难以实现。{5}
  (二)弱人工智能运作机理考察
  在弱人工智能时代,人工智能得以运行的前提基础是根据人类所设定的逻辑符号推演,使其在形式上符合人类思维活动方式。但一方面,人工智能表面上所具备的自我学习能力是人类所赋予的,不应将其神圣化,其自主学习的内容仅限于人类设定的范围,因此从实质上来看当前可实现的人工智能技术并没有独立的行动意识,也没有脱离设计者预设的支配控制范围。尽管AlphaGo击败人类顶级围棋选手震惊世界,而具备深度自我学习能力的AlphaGo Zero自学棋谱又轻松将击败AlphaGo,使得人类对于人工智能的发展由新奇转变为恐慌,但应当确信的是,离开围棋这一单一训练场域,不论是AlphaGo还是AlphaGo Zero都将一无是处。当人类没有交给此类人工智能学习其他新奇事物的“代码源”时,他们并没有任何自主获取知识的能力。因此和人类具有对不同事物进行自主学习的能力相比,人工智能仍只是“弱智”水平。另一方面,人工智能的思维程序是机械式不带有情感的,尽管在各自领域能够取得引以为傲的成绩,但其自身无法感知、理解自身行为的意义,也无法像人类一样感受到获得成功时的喜悦。如IBM的沃森、苹果的Siri以及机器翻译,今天的人工智能程序并不知道它们“读”或“说”的东西是什么意思,而缺乏理解力的体现之一是各程序之间不能彼此交流、相互学习,因为程序不同,知识表示形式或基本本体也不同。{6}46
  弱人工智时代智能机器人在本质上只是人类处理某一类具体事务的辅助工具,即使在特定领域人类也无法实现将一件事务全部交由人工智能独立处理。如当前司法改革重要内容之一的智慧法院建设,出于人民群众诉讼便捷、实现案件公正审理、高效目的考量,利用大数据分析实现海量文书检索充分展现了人工智能与法律结合带来的技术红利,但无论人工智能掌握的数据如何精准、思维运算多么快捷,案件最终的审理、判决都将是由经验丰富的法官进行,不论是司法机关还是社会公众都不会允许将案件的审判权交由人工智能机器掌控。此外,人工智能虽已经开始影响法律职业,第一位“机器人律师”已经问世,但主要作用也只是进行文件检索、查找归类以及起草法律文件等,并无法像人类律师一样实现从案件的委托到证据调查、出庭辩论等全部流程的律师代理服务。{7}因此,司法领域中,人工智能不论是服务于司法机关抑或是律师诉讼,都只是作为处理案件的辅助工具,无法像法律职业工作者一样独立实现案件的办理,此种情形在人类其他工作生活领域中亦是如此。
  基于强人工智能“类人”属性运行模式在可预期技术发展条件下的“虚无”与“缥缈”,本文讨论的人工智能机器人实质上是针对当前科技发展状况下已经实现的人工智能运作模式,即弱人工智能时代人工智能机器人造成法益侵害的后果能否认定刑事主体地位的问题。
  三、人工智能刑事主体地位分析
  “刑法是处罚人的法律”,西原春夫教授在《刑法的根基与哲学》开篇即阐明了这一观点。{8}2法律人格是某一主体能否成为法律意义上“人”的资格,是其享受权利、承担义务的基础。随着科技的发展,人工智能的法律人格地位正在不断受到民法、刑法、知识产权法等不同法律部门的关注与拷问,人工智能可否像法人一样作为又一新兴主体进入刑法视野成为被规制的对象,其核心在于分析客观上造成法益侵害结果的人工智能是否具备可追究刑事责任的主体意志自由。
  (一)意志自由对刑事责任认定影响
  古希腊哲学家柏拉图与亚里士多德首先注意到人对其行为的可选择性,即肯定人具有意志自由。亚里士多德从伦理评价角度将人的行为区分为自愿行为与非自愿行为,以行为是否自愿作出作为评价是否予以刑事处罚的道义评价标准,从而奠定了刑事责任认定的主观要素基础。没有能力在伦理参照系中对自身以及自己的决定作出评价的人,也即不具备“分辨善与恶的良知”的人,不能成为法律意义上的人,也不能成为承受责任与罪责的对象,因为我们无法与其进行伦理对话,同样他也无法对伦理指责作出“回答”,这正如对待野兽或者精神错乱者,只能采取危险防范措施加以控制,却不能进行刑罚的惩罚。{9}227此外,亚氏进一步将自愿行为的认定标准细分为“有知”与“有选择”的行为,即当前刑法主观要件认定中的认识因素与意志因素。对于不具有认识因素的“无知”行为或是受到强制的“无选择”的非自愿行为,是不应当受到刑罚谴责的行为。{10}47-48黑格尔在犯罪是犯罪人自由意志的体现以及自由意志与刑罚的关系中论述道:犯罪被视为理性存在者的行为,违法者通过他的行为表明其同意适用于法的惩罚。{11}130只有从犯罪人的自由意志中才能找到刑罚的正当根据,因为只有这样才能构成对犯罪人的理性尊重,离开犯罪是对犯罪人的自由意志的产物这一命题而寻找刑罚的根据,必然构成对犯罪人作为人的理性的藐视。既然犯罪是犯罪人自由意志的体现,不体现自由意志的便谈不上犯罪,因而不具有与刑罚相联系的质。{12}103
  尽管民法领域出于对产品质量安全保障规定了严格责任,基于产品质量造成的他人人身、财产损害后果所承担的侵权责任,并不需要证明行为人具有主观过错也无需体现意志自由,只要具备有缺陷的产品以及因果关系即可。与之不同的是,现代刑法在犯罪构成认定方面最典型的特征表现为主客观相统一的认定标准,即对于犯罪成立的认定既需要考虑行为客观造成的法益侵害后果(危险),同时需要考量实施行为主体的主观心理,两者缺一不可。而刑事犯罪主客观相统一的认定标准在世界刑法发展史上经历了漫长崎岖的时代变迁过程。在中国古代夏商时期以及西方罗马法之前,刑罚的惩治往往只考虑客观损害而并不考虑行为实施者的主观恶性,其最突出的表现在于刑罚可以施加于不具有自由意志的人、物乃至自然现象,包括将精神病患者、年幼无知者等无自由意志者作为实施刑罚的对象,以及将非人类实施但“为害”人类的动物或自然现象等非人的行为作为动刑的原因。作为动刑之前提的“罪”是一种与“恶”毫不相关的纯客观意义上的“害”,刑罚的轻重完全取决于损害结果的大小,与行为实施者的主观恶性有无或大小并不相关,此种报复刑思想的基本逻辑表现为有害必罚,犯罪只不过是客观损害的代名词。{10}32-34随着人类文明的不断进步,人的主体性地位愈发受到尊重,加之刑罚措施的严苛,犯罪行为的认定必须结合行为人的主体性要素进行全面判断,以防止客观归罪。因此,民法中只要求有客观损害结果不要求主观过错的严格责任制在刑法中并不适用。我反正不洗碗,我可以做饭
  当前刑事法学界对于人工智能可能产生的侵害结果有些过于敏感,试图通过刑罚手段惩治人工智能的观点与远古时期中外刑罚思想具有很大的相似性,即对于客观行为造成的法益侵害结果适用刑罚客观归罪的责任原理,而对于人工智能是否具有承担刑事责任本源的意志自由思考不足。
  (二)人工智能意志自由分析
  刑事责任的认定基础不仅是对客观危害行为的考察,更是对主观心理的归责,在承认存在客观法益侵害的前提下是否具有意志自由成为认定人工智能机器人能否成为刑事责任主体的关键因素。据报道,2017年10月25日一个名叫索菲亚(Sophia)的“女性”机器人被授予沙特阿拉伯国籍,该机器人成为史上首个被授予国籍的机器人。{13}有观点据此指出,沙特赋予机器人Sophia以国籍,由此解决了人工智能机器人承担刑事责任的问题,因为此时Sophia具有公民身份,无论是“她”对别人造成伤害还是别人对“她”造成伤害都需要依据刑法的规定进行处罚。{14}赋予机器人以国籍作为公民对待确实具有很大的制度创新性,但沙特此举更多体现为一种象征意义,对于人工智能在现实情况下并无法实际履行公民义务,享受公民权利,不具有实际意义。例如,将智能机器人Sophia以女性形象塑造并赋予其公民身份,但并无可能对其性自主意志进行实质判断,其也没有实际的感知力,如果男性自然人对其实施猥亵、强奸等行为,并无法进行相应罪名的认定。因此,有观点指出沙特开先河赋予人工智能以国籍只是一场科技领域的作秀。{15}
  也有观点指出“以智能机器人为代表的人工智能可以通过深度学习产生自主意识和意志,并在自主意识和意志的支配下实施严重危害社会的犯罪行为,此时智能机器人已经具备刑法中犯罪主体的主要条件,确实需要承担相应的刑事责任”。{16}此观点实质上是认为具有自主学习能力的人工智能同样会“变坏”产生犯罪的意志自由,而这种犯罪意志的构成与自然人实施犯罪的主观意志相同,由其特殊的认识能力与控制能力组成,即人工智能在自主学习过程中通过设备对外界信息的获取类似于人类对客观世界的认识,产生了认识能力;通过对数据处理进行的程序运行则相当于自然人在其意志控制下实施的行为。
  首先,人工智能运行机理与人的意志自由进行形式匹配过于机械。如何判断人工智能所实施行为(不论是否遵循人类事先设定的程序)体现其自身意志自由,即上述对于运行程序步骤的机械对应是否真的与基于刑法目的理性前提下人的认识与控制要素性质一样,存在很大的争议。刑事责任的认定根据不应只在客观层面讨论侵害行为与结果之间的因果性,更应从实质层面关注实施危害行为主体自身的目的性,即应是在主体目的理性前提下实施的危害行为。目的行为说主张将目的导向性作为人的行为的核心标准,无论是在犯罪还是合法的日常生活中,我们都可以建立起人的行为概念,而“人的”一词所指向的并非单纯机械性事务,而是在交往方面具有重要意义的事务。{17}10换言之,刑法规范只能对一个具有社会评价意义的目的性举动加以要求或者禁止,{18}6人工智能在预先设定的程序指令中运行,即使通过深度学习使程序摆脱了人类的控制并在客观上造成法益侵害结果,但人工智能本身缺乏对外在行为的真实理解,无法认知自身行为对客观世界产生的影响,因而无法认识自身行为的社会属性,也就不具有规范评价意义上的行为“目的性”与独立控制行为的意志自由可言。正如当前人工智能已经能根据一定的语法规则进行词语排列组合,形成形式完整的文学作品并体现一定程度的独创性,但人工智能在程序开发者事先设定的指令下进行的“创作过程”并不具有自主性,在这一过程中作为“创作者”的人工智能也无法理解其自身行为的目的与社会意义,同样也无法像人类一样感知其创作作品的美感,缺失了法规范评价意义上人实施行为的目的性与意志自由。
  其次,人工智能不具有理解并遵从法规范的能力。刑事责任成立的前提要求行为主体对不法必须具有认识的可能性,并且对其具体行为具有能够形成合法行为进而产生抵制违法行为的意志,即既要对法规范具有认识、理解的可能与能力,同时也要能在具体情境下通过对法规范的理解决定不实施违法侵害行为的意志力,存在对其服从法律规范的期待可能性。然而人工智能本身对刑法规范既没有理性的认识与遵从能力,也无法感知违反规范所造成社会否定性评价所带来的消极后果,其单纯依

  ······

法宝用户,请登录后查看全部内容。
还不是用户?点击单篇购买;单位用户可在线填写“申请试用表”申请试用或直接致电400-810-8266成为法宝付费用户。
【注释】                                                                                                     
【参考文献】

{1}吴汉东.人工智能时代的制度安排与法律规制〔J〕.法律科学,2017,(5): 128—136.

{2}易继明.人工智能创作物是作品吗?〔J〕.法律科学,2017,(5): 137-147.

{3}刘宪权,胡荷佳.论人工智能时代智能机器人的刑事责任能力〔J〕.法学,2018,(1): 40-47.

{4}张妮,杨遂全,蒲亦非.国外人工智能与法律研究进展述评〔J〕.法律方法,2014,(2): 458-480.

{5}中国电子技术标准化研究院.人工智能标准化白皮书(2018版)〔EB/OL〕.http://www.cesi.ac.cn/201801/3545.html, 2018-01-18.

{6}〔英〕玛格丽特·博登.人工智能的本质与未来〔M〕.孙诗惠,译.北京:中国人民大学出版社,2017.

{7}〔德〕霍斯特·艾丹米勒.机器人的崛起与人类的法律〔J〕.李飞,敦小匣,译.法治现代化研究,2017,(4): 62-71.

{8}〔日〕西原春夫.刑法的根基与哲学〔M〕.顾肖荣,等译.北京:中国法制出版社,2017.

{9}〔瑞士〕萨比娜·格雷斯,〔德〕托马斯·魏根特.智能代理与刑法〔M〕//赵阳,译.陈泽宪.刑事法前沿(第十卷)〔M〕.北京:社会科学文献出版社,2018.

{10}邱兴隆.刑罚的哲理与法理〔M〕.北京:法律出版社,2003.

{11}〔德〕梅尔.德国观念论与惩罚的概念〔M〕.邱帅萍,译.北京:知识产权出版社,2015.

{12}〔德〕黑格尔.法哲学导论〔M〕.范扬,张启泰,译.北京:商务印书馆,1996.

{13}“人工智能机器人Sophia被授予沙特国籍,人类还能做什么?”〔EB/OL〕.https://baijiahao.baidu.com/s? id =1582396872543149212&wfr = spider&for = pc, 2017-10-25.夫妻本是同林鸟

{14}姚万勤.人工智能影响现行法律制度前瞻〔N〕.人民法院报,2017-11-25(2).

{15}“如何看待沙特授予机器人国籍这件事?”〔EB/OL〕.https://www.zhihu.com/question/67270656,2017-11-25.

{16}刘宪权.人工智能时代的刑事风险与刑法应对〔J〕.法商研究,2018,(1): 3-11.

{17}〔德〕京特·雅各布斯.韦尔策尔对于当今刑法学的意义〔M〕//〔德〕汉斯·韦尔策尔.目的行为导论——刑法理论的新图景.陈璇,译.北京:中国人民大学出版社,2015.

{18}〔德〕汉斯·韦尔策尔.目的行为导论——刑法理论的新图景〔M〕.陈璇,译.北京:中国人民大学出版社,2015.

{19}李开复,王咏刚.人工智能〔M〕.北京:文化发展出版社,2017.

{20}袁曾.人工智能有限法律人格审视〔J〕.东方法学,2017,(5): 50-57.

{21}蒋熙辉.单位犯罪刑事责任探究与认定〔M〕.北京:人民法院出版社,2005.

{22}张建文.格里申法案的贡献与局限——俄罗斯首部机器人法草案述评〔J〕.华东政法大学学报,2018,(2): 32-41.

{23}刘宪权.人工智能时代的“内忧”“外患”与刑事责任〔J〕.东方法学,2018,(1): 134-142.

{24}李晟.略论人工智能语境下的法律转型〔J〕.法学评论,2018,(1): 98-107.

{25}郑戈.人工智能与法律的未来〔J〕.探索与争鸣,2017,(10): 78-84.

{26}蔡映洁.人工智能,以法律和伦理为界〔N〕.人民日报,2017-8-23(5).

©北大法宝:(www.pkulaw.cn)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料,正式引用法规条文时请与标准文本核对
欢迎查看所有产品和服务。法宝快讯:如何快速找到您需要的检索结果?    法宝V5有何新特色?
扫码阅读
本篇【法宝引证码CLI.A.1252256      关注法宝动态:  

法宝联想
【相似文献】
【作者其他文献】

热门视频更多