查找:                      转第 显示法宝之窗 隐藏相关资料 下载下载 收藏收藏 打印打印 转发转发 小字 小字 大字 大字
【期刊名称】 《华东政法大学学报》
人工智能对公司法的影响:挑战与应对
【作者】 林少伟
【作者单位】 西南政法大学民商法学院{副教授、硕士生导师}
【分类】 公司法【中文关键词】 人工智能;法律;公司法;董事
【期刊年份】 2018年【期号】 3
【页码】 61
【摘要】

人工智能的迅猛发展,将对公司法造成影响,其中主要体现在其对公司董事的影响。人工智能与董事之间的关系因不同发展阶段而有所不同,在弱人工智能阶段,人工智能因尚未达到可模拟人脑进行抽象思维的阶段,其可作为董事的辅助工具,但公司法需解决董事是否可将部分职权授于人工智能以及董事是否负有咨询人工智能的义务等问题。在强人工智能甚至超人工智能时代,人工智能担任独立董事不存在法律障碍的情况下,因人工智能与自然人董事的本质差别,公司法面临着诸多挑战,围绕传统代理成本理论而搭建的公司法规则框架可能需要重构,其他规范自然人董事的规则也须相应调整,公司也可能因此而受到公权渗透。面对人工智能技术的日新月异,公司法应未雨绸缪。

【全文】法宝引证码CLI.A.1244027    

目次

一、人工智能对公司法的可能挑战

二、人工智能与董事的关系:两种形态

三、作为辅助的人工智能:迫在眉睫的法律应对

四、作为董事的人工智能:一种可能的想象

五、结语

一、人工智能对公司法的可能挑战

早在2014年,人工智能对公司法的挑战已隐隐若现。研究生物科技与再生医学的英国公司Aging Analytics于2014年5月宣布,启用一款名为VITAL(Validating Investment Tool for AdvancingLife Sciences)的人工智能工具,并授权香港的风投公司Deep Knowledge Ventures将该人工智能用作该公司的投资委员。在被记者问及为何采用这一人工智能时, Deep Knowledge Venture的高级合伙人卡明斯基(Kaminskiy)称,人会受情感左右,有主观情绪,会犯错误,但VITAL这样的机器只会用逻辑思维,不可能因为一时意气出错。人类投资者的直觉和机器的逻辑性相结合,会打造一支完美的团队,将错误的风险降低到最小。[1]VITAL人场后,已经帮助公司批准了两项投资:一个是在抗衰老医药领域开发计算机辅助方法的Silico Medicine,另一个是使用选择个人化抗癌治疗方法的PathwayPharmaceuticals。 Aging Analytics公司声称,VITAL在投资委员会和其他委员是平等的。事实上,VITAL在当时虽然冠以“投资委员”之名,但实际上并非对任何的投资都享有跟其他委员同等的表决权。而且,根据香港公司法的规定,VITAL也无法获得“董事”地位。因此,Aging Analytics公司的其他委员认为,将之视为投资委员会的“观察员(observer)”可能更为适当。[2]

VITAL的出现,实质上引出一个更深层次的问题:公司法与人工智能的相遇将会擦出何种火花?VITAL可能被视为公司的董事,也可能被视为公司董事决策的辅助(即观察员),但不管是哪一种情形,均会导致公司法语境的一连串追问:如果VITAL被视为董事,则传统公司法关于董事的相关规则(比如董事义务规则)是否仍然适用?如果不能适用,应当如何重构?如若VITAL不被视为董事,而仅仅是被视为董事决策的辅助手段,则这种辅助性工具是否也受到公司法的规约?如董事因听信VITAL所作出的决策导致公司利益受损,VITAL本身是否应当承担责任?无生命无感情之VITAL又该承担何种责任,才能与其行为与身份相匹配?凡此种种,无疑均会对公司法造成挑战与冲击。

事实上,人工智能的出现,不仅会冲击公司董事,也会改变公司的其他元素。比如,人工智能也可以充当投资者或公司股东本身(或者为股东决策提供协助),也可以充当劳动力,成为公司雇员。然而,当人工智能本身成为投资者时,其所作出的决定相对单一:或者支持,或者反对。这显然与作为董事的人工智能有着深刻不同,因为董事决策涉及方方面面,并需考虑各种因素,在日常管理中,也并非简单地支持或反对就可解决。因此,与董事相比,人工智能对股东或投资者的冲击相对较弱。此外,当人工智能充当股东时,相对董事而言,其对公司其他利益相关者的影响较弱。而当人工智能充当公司雇员时,其所要应对的是人工智能作为劳动者的身份与地位的认定、对公司工作任务与规划的冲击与瓦解以及工作中可能产生的责任纠纷。[3]而这在很大程度上主要涉及《劳动合同法》《侵权责任法》等其他部门法,已远远超出《公司法》所能规制的范围,也非《公司法》所能承受之重。故此,本文关于人工智能对公司法的挑战,主要探讨其与公司董事之间的关系并分析由此关系所引发的冲击及其应对之道。

二、人工智能与董事的关系:两种形态

人工智能与董事之间的关系因人工智能不同的发展阶段而呈现出不同的特点。根据人工智能的实力,有学者将人工智能分成三大类。[4]第一类是弱人工智能(artificial narrow intelligence),即擅长于单个方面的人工智能,比如能够战胜围棋冠军的人工智能。但对这类人工智能,其也仅仅只能在围棋方面发挥才能,超出此范围,则无能为力。第二类是强人工智能(artificial general intelligence),即具有人类级别的人工智能,可以在各方面与人类相比。对于这类人工智能,美国特拉华大学戈特弗雷德逊(Gottfredson)教授认为其“能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作”[5]。第三类是超人工智能(artificial super intelligence),即在各方面比人类更强大的人工智能。牛津大学知名人工智能专家博斯特罗姆(Bostrom)教授认为这种人工智能“在几乎所有领域都比最聪明的人类大脑聪明很多,包括科学创新、通识和社交技能”[6]。在弱人工智能阶段,由于人工智能仅限于处理相对单一的事务,且其发展尚未达到“模拟人脑”程度,人工智能仍然被视为一种法律上的客体或物,被归为“工具”的范畴。此时,人工智能的出现虽引发诸多新问题,但仍可以在传统的法律规则之内得以妥善解决。目前的人工智能技术大多停留于第一类的弱人工智能阶段,强人工智能和超人工智能尚未出现。然而,尚未出现并不代表不会出现,法律对此不应高高挂起、坐视不理,而应未雨绸缪。事实上,介乎弱人工智能与强人工智能的阶段已然出现,赫伯特·波斯纳法官在“Pompeii Estates, Inc. v. Consolidated Edison Co案”中所作出的“计算机仅能执行强制的指令—对其编程不是为了使其做出判断”这一论断显然已落后。[7]比如人工智能技术在ICT领域的迅猛发展而产生的无人驾驶汽车和医疗机器人就是佐证。无人驾驶车的人工智能系统显然已超越弱人工智能阶段,但尚未进人强人工智能。此时此刻,如果无人驾驶汽车出现事故,撞伤他人,该如何追责?是“无人驾驶者”人工智能系统本身?抑或背后的程序研发者、运营者还是使用者?这显然已突破既有法律规范,而急需新型法律体系予以应对并加以规制。[8]下跌你应该笑还是哭

根据人工智能上述三大发展阶段,其与公司董事的关系可以分为两种:一是作为辅助董事的人工智能;二是作为董事独立个体的人工智能。作为辅助董事的人工智能,目前已经出现,并主要在投资银行业中使用。瑞士联合银行集团(UBS,以下简称“瑞银”)在此领域可谓一马当先,其伦敦分行与德勤(Deloitte)会计事务所及金融科技公司Tradelegs合作开发人工智能及机器学习(Machine Learning)系统,帮助交易员分析数据及调度资金。他们合作开发的人工智能不仅能够处理一些重复性高、复杂性低的传统工作,更可以分析大量交易数据,针对金融市场变动趋势为瑞银制定投资策略以提供参考。此外,瑞银还与亚马逊的Alexa合作,聘请其为瑞银的客户解答相关问题。此时的人工智能可作为一种辅助董事的工具,为董事决策提供意见。作为董事独立个体的人工智能虽然尚未出现,但可以想象,当人工智能发展到一定程度,可以模拟人脑并具有抽象思维时,人工智能成为独立的董事也将水到渠成。然而,不管人工智能作为一种辅助功能,抑或独立个体,均会对公司法造成一定冲击,公司法对此也须重新审视并作出相应的制度安排。

三、作为辅助的人工智能:迫在眉睫的法律应对

通过对算法的不断优化以及对数据的挖掘与分析,且因其本身所具有的“天然”优势,人工智能已在诸多领域达到甚至超越人类的水平,人工智能为公司董事的决策提供参谋辅助也不再是空中楼阁。甚至于,人工智能因其本身无情感的“中立”地位,依据事先设置的算法与程序,更能为公司提供不夹带任何私利的意见。正如上面所述,瑞银与其他公司合作开发的人工智能,为其投资决策提供咨询意见已有数年,也已产生了正面效果,人工智能为董事决策提供辅助意见已非天马行空地想象。然而,在公司法视野里,这意味着两大挑战:一是公司董事可否授权给人工智能,让其代行处理本来应由董事所为之事;二是公司董事在一定条件下是否负有聘请人工智能提供决策咨询的义务。下面笔者将就此两大问题展开论述。

(一)董事是否可授权给人工智能

1.现行规定

人工智能辅助董事进行管理,涉及人工智能与董事之间的分工,也涉及董事可能须将部分权力授予人工智能的问题。因此,从公司法上而言,董事是否可授权给他人(包括人工智能)是关键。一般认为,董事作为公司管理人员,应当履行亲自管理的义务,这已成为大多数国家公司法的基本原则之一,但亲自管理原则并不意味着不得授权他人管理。事实上,很多国家在确立亲自管理原则之外,也规定了例外情形。在新西兰的“Dairy Containers v NZI Bank案”中,法官托马斯(Thomas)明确指出:“董事最为重要的任务就是管理公司事务,这意味着他们享有管理的权力与责任。当然,为了提高管理效率,他们在必要之时可以将部分权力授予公司经理,以处理公司日常事务,但这并不意味着管理功能本身的转移。”[9]可见,托马斯法官虽认可公司董事在必要时可将部分管理权能授予经理,但实际上托马斯法官仍认为这种授权并非管理权的转移,且仅在必要时才可授权。在美国,在“Re Bally’ s Grand Derivative Litigation案”中,法官认为“董事不得将管理核心的权力授予他人”[10]。在“Barings plc案”中,乔纳森·帕克(Jonathan Parker)法官也回应上述观点,并进一步指出“无论是作为集体抑或个人,董事负有对公司业务获取和维持充分知识和了解的义务,以便更好地履行作为董事的职责”[11]。由此可见,在帕克法官看来,原则上董事职权可授予他人,但由于董事必须获得并保有作为董事所应当具备的知识与技能,因此不能随意授权给他人,且在授权范围方面,核心性管理权力也不得授予他人。然而,何为核心性管理权力,法官则语焉不详。瑞士在其公司法中对此有相对明确定义,根据《瑞士公司法》第716条规定,法律禁止董事将公司关键性管理权(key management of the corporation)授予他人,在何谓“关键性管理权”方面,瑞士公司法规定“公司发展战略目标以及为实现并控制这些目标所决定采取的手段”属于关键性管理权,并不得授予他人。

在英国,历经十数年修改而成的《2006年公司法》并没有禁止董事授权他人管理公司,其示范章程第5条则明确规定在不违反公司章程的情况下,董事可在其认为适当时将权力授予任何个人或委员会。[12]由此可见,英国在这方面的规制相对宽松,只要不违反公司章程,董事便可授权给个人或委员会。然而,此处所采用的对象术语是“个人”或“委员会”,人工智能是否也包括在内不无疑问。如果从狭义的文义解释出发,人工智能既非“个人”,也非“委员会”,显然无法囊括在内。但如果从广义的目的解释出发,人工智能囊括在内也并非不可能。显然,示范章程之所以允许董事将其管理权授予他人,其目的在于提高管理效率。在公司事务繁多,董事个人无法亲力亲为之时,将部分权力在某一特定时间段授予他人,实际上有利于提高管理效率,更好地维护公司利益。以此目的而言,董事将部分管理权授予人工智能,让其代董事处理部分事务,本质上与其他“自然人”或“委员会”代为管理并无二致。因为一旦因授权代为管理而出现问题,首当其冲的担责主体是授权的董事。从此意义上而言,英国公司法并不禁止人工智能辅助董事,董事也可将其部分权力授予人工智能。

我国关于这方面的规定,涉及《公司法》的两个条文:其一是董事因故不能出席董事会的,可以书面委托“其他董事”代为出席;其二是董事会可将其职权授予经理。[13]据此,董事会的任何决议均需要具有“董事”身份的人出席,因此,董事不得将任何涉及参与董事会讨论或行使董事会表决权的权力授予其他非董事的人。此外,其他职能权力,董事可授予经理。然而,问题的关键是:《公司法》49条的规定是否为强制性规定?抑或是一种默示性规定?董事授权于他人是否仅限于经理,抑或可以授权于其他非经理人士?笔者认为,对此应当进行扩大解释,在章程没有其他规定的情况下,为提高公司管理效率,应当允许董事授权给他人。如此一来,人工智能作为辅助董事的角色也将水到渠成。

2.如何应对

当人工智能作为董事辅助性角色不存在法律障碍的情况下,需要解决的另一问题是:如何从法律上确定因人工智能的辅助而导致的责任。首先应明确的是:董事授予部分职权给人工智能后,并非从此就可以置身事外。恰恰相反,董事应当对此以及相应后果承担责任。帕克法官曾明确指出:“在符合公司章程规定下,即便董事将特定权力授予其他非管理层人员,并合理相信被授权人具有一定的能力与诚信,也并不意味着可豁免其所负有的监督与履行被授予权力的义务”[14]。我国《公司法》虽对此没有明确规定,但在其他私法领域,比如《信托法》中有类似的规定,《信托法》明确规定受托人须亲自管理,但如果信托文件另有规定或者有不得已事由的,可以委托他人代为处理。如受托人依法将信托事务委托他人代理的,应当对他人处理信托事务的行为承担责任。[15]当董事将职权授予人工智能处理相关事务时,董事当然也需承担相应的后果,具体包括以下三个方面。第一,在选任方面,董事选任人工智能辅助其决策时,应当尽责了解相关信息,知悉人工智能的运行原理、工作目的、基本算法逻辑和相应设备的操作等。当然,基于董事本身并非人工智能专业人士,不可能要求董事对人工智能具有很深刻的了解和掌握,但其应当具备选任人工智能的相应知识储备和基本技术。第二,在人工智能工作期间,董事应当负有谨慎义务,这主要体现在输入与输出两方面:一方面,董事应当确保提供给人工智能的数据准确无误;另一方面,董事对人工智能所输出的结果也应进行一定程度的审核,不能未经审核就随意采信。第三,应确保人工智能不会对公司管理造成重大损失。董事应当通过各种途径,确保人工智能系统运用安全、顺畅,并定期让专业人员对人工智能进行维护,确保不因人工智能的出错而导致公司遭受重大损失。

(二)董事是否有义务聘请人工智能

既然人工智能在某些特定领域具有无可比拟的“超人”优势,那特定领域的公司董事是否负有聘请人工董事作为辅助决策的义务?此言并非凭空臆造,因为根据公司法原理,董事作为受托人,负有实现公司利益最大化的义务,而实现公司利益最大化,当然也包括董事需在决策之前获得最为充分的信息、与分析。以此而言,提出董事是否负有聘请人工智能的义务这一问题显然并非天方夜谭。英国((2006年公司法》第172条中就明确指出,公司董事必须以他善意地认为为了公司成员的整体而将最大可能地促进公司成功的方式行事,虽然英国以“公司成功”一词替代“公司利益”,但其更改的主要目的在于用更为中性色彩和广义的概念来取代具有争议性且狭义的“利益”二字,本质上要求董事为公司利益最大化行事的规定依然如故。在美国,董事须为公司利益最大化而行事的规定已成各州公司法普适性原则之一,存有争议的仅仅是如何定义“公司利益”,是坚守公司利益等同于股东利益这一传统立场,抑或顺应历史潮流,将公司利益扩大至其他利益相关者。[16]我国《公司法》虽然明确指出董事需负有以公司利益最大化行事的义务,但在《公司法》相关条款中可窥得有此要求。比如,我国《公司法》21条要求公司的控股股东、实际控制人、董事、监事、高级管理人员不得利用其关联关系损害公司利益,即从关联关系的负面角度要求董事须为公司利益行事。第 147条规定董事应当遵守法律、行政法规和公司章程,对公司负有忠实和勤勉义务。其中忠实义务所对应的不得有利益冲突以及勤勉所对应的谨慎和注意,无疑也是围绕着公司利益而展开。第148条则对董事不得从事具体行为进行详细列举。[17]可见,我国《公司法》即便没有明确提出董事负有为公司利益行事之义务,但通过旁敲侧击的散落式规定,也呈现出董事须为公司利益最大化而行为这一潜在含义。

故此,如果人工智能有助于董事做

此人家庭地位极低
  ······

法宝用户,请登录后查看全部内容。
还不是用户?点击单篇购买;单位用户可在线填写“申请试用表”申请试用或直接致电400-810-8266成为法宝付费用户。
【注释】                                                                                                     
©北大法宝:(www.pkulaw.cn)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料,正式引用法规条文时请与标准文本核对
欢迎查看所有产品和服务。法宝快讯:如何快速找到您需要的检索结果?    法宝V5有何新特色?
扫码阅读
本篇【法宝引证码CLI.A.1244027      关注法宝动态:  

法宝联想
【共引文献】
【相似文献】
【作者其他文献】
【引用法规】

热门视频更多