互联网资讯和记娱乐

和记娱乐主页 > 互联网资讯 >

我们该如何应对AI网络化给人类社会带来的变化和

发布时间:2021-02-17 19:53 发布人:和记娱乐 来源:和记h88

  在,对扳道工事例中任何行为的正当化都予以否定,这已经是的观点,但是对于自动驾驶汽车的程序设计,却有另外一种观点更为有力。根据这种观点,实际上产生生命侵害的时候是否可以从事后的观点出发对其进行正当化,和事前是否能够采取某种策略避免死亡事故,是两个不同的问题点。在前者,想要事后对生命侵害这一结果进行正当化是不被容许的,但是后者,事前就要有将损害最小化的则被为义务,为了使损害最小化而采取某种措施被认为是“可以允许的”。

  ★日本信息学、、社会学、人工智能技术领域的前沿学者,关于人类如何与AI共生进行跨界对话,在社会治理和法律制度层面提出务实的对策。

  ★深度讨论智联社会的隐私与伦理、信息安全、AI开发准则、参与、知识产权、劳动就业等核心问题。

  ★通过情景设定实例和“思想实验”,将读者代入未来的预设场景,尝试回答文学作品、电影和游戏中的经典问题:在AI网络化时代,人类如何做才能既利用人工智能为人类服务,又人类的基本利益?

  ★大学中国社会与发展研究中心主任邱泽奇教授作序,哈佛大学、大学、中国人民大学、厦门大学等国内外高校的多位学者联合推荐。

  法律工作者在“司法智能化”的同时,也扮演着优化规则的者角色。如何解决AI衍生的个人隐私和信息安全问题?如何优化法律制度和管理体系?想要深入了解AI网络化时代法律问题的读者必将欣喜于阅读此书。

  人工智能网络化正大踏步朝我们走来。人类做好了与之相处的准备吗?在伦理上、法律上应当如何应对人工智能与人的关系?日本学界精英以预设情景做出了前瞻性分析,启智,让人跨越专业门槛一窥究竟。这是一本促人面向未来的好书,忙碌的人们若分身阅读,定有收获。

  任剑涛,大学社会科学学院学系教授,教育部“长江学者”特聘教授

  以我对人工智能有限的认知,我以为,这样的提问非常日本!工业化的历史表明,同在文化圈,日本却是一个非常务实的国家。人工智能的发展显然还没有走到真正人类的时刻,探讨人工智能场景下的人类利益,显然是一个虚拟问题。务实的日本人在一个虚拟问题时,又如何处理呢?《AI联结的社会》恰恰展现了务实的智慧。

  邱泽奇,大学中国社会与发展研究中心主任,教育部“长江学者”特聘教授

  人工智能(AI)技术必将带来一场性的变革,将使人的生活方式、交往方式以及思维方式发生根本性的转型,因而,人工智能将为我们展现出一个不同于以往和现在的未来。我们生活的这个时代,了人工智能技术的兴起,也应为人类在不久的将来进入人工智能时代做好准备。可以说,从20世纪后期起,人工智能的概念就已经超出了科学研究和技术创新的领域,得到了人们的广泛关注,特别是在人们的观念中造成了震荡。也许,我们距离人工智能时代的到来还有一段较长的,但是,我们在今天就需要在思维、观念上做好迎接这个时代到来的准备,特别是要充分估计到人工智能将对人类社会造成什么样的影响。所以,我们渴望阅读这个方面的作品。

  张康之中国人民大学公共管理学院行政学系教授,教育部“长江学者”特聘教授

  目前,人工智能伦理准则已经在全球范围内达成基本共识。在此共识基础上,《AI联结的社会》致力于解决以下四方面的关键问题:一是探讨“AI网络化”治理的必要性及其方向;二是AI研究开发相关问题的阐述;三是AI网络中的信息流通及正当使用;四是AI网络化将对社会产生的深远影响。作者们独辟蹊径,深入浅出地阐释了AI带来的信息安全问题、基本制度和控制管理体系构成,并附有大量虚拟情景实例,是一部扎实、详尽的优秀作品。

  在医学领域,AI智能诊断和精准医疗一方面为疾病的诊断和治疗提供了新手段,另一方面也涉及数据隐私、诊断可靠性等问题。《AI联结的社会》讨论了AI技术在多领域(也包括医疗领域)应用所涉及的法律和伦理问题,值得相关研究人员和临床医生参考。

  近十年来,世界各地的许多高校纷纷成立了AI研究中心和学院,培育了一大批AI人才,进一步增强了AI在各个领域的影响力。随着AI技术的快速发展和广泛应用,关于AI安全、伦理和法律方面的讨论日益增多且愈发重要。本书对AI尤其是AI网络化的伦理和法律进行了仔细探讨,指出了许多值得AI研究者、AI产品和服务生产者、使用者以及部门深思和研究的问题,是一部受众广泛、内容充实、又很具有国际视野和前瞻性的作品。

  在人工智能网络化时代,我们将面临不可预测和控制的风险。我们的社会是否已为迎接迎接这一切做好准备?

  大数据下无处不在的“人物侧写”,还有“责任的空白”“数字污名”“就业难民”等全新社会问题,是否会催生新的歧视与?

  围绕这些问题,日本信息学界、界、社会学界、人工智能技术领域的多位前沿学者从国际化、专业化的视角出发,进行了深入探讨。

  学者们通过“情景设定”的方式,对人工智能网络化时代的风险和危机进行了预演,并在社会政策和法律应对层面,提出了精彩的。

  福田雅树,东京大学研究生院学际信息学博士。曾任总务省信息通信政策研究所调查研究部部长,现任大阪大学社会技术共创研究中心教授(副所长),兼任研究生院研究科教授。

  林秀弥,京都大学研究生院研究科博士。现任名古屋大学研究生院研究科教授、总务省电波监理审议会委员、日本学术会议合作会员。

  成原慧,东京大学研究生院学际信息学府博士课程结业。现任九州大学研究院副教授、理化学研究所革新智能综合研究中心客座研究员。

  X1购买了由汽车公司Y1所制造、贩卖的自动驾驶汽车(第3级),下雨天的时候普通公上以自动驾驶模式、每小时40公里的速度行驶。在X1没有注视前方的时候,走在道左侧人行道上的小孩A,松开了父母的手进入了机动车道。自动驾驶汽车执行紧急应对措施,切换成驾驶员手动模式,但是由于X1没有注视前方,导致其瞬间的反应不够及时,来不及紧急制动。这时X1向右打方向盘,想要避免撞到A,但此时后方有一辆摩托车超速行驶而来,自动驾驶汽车没能避开与摩托车的碰撞,最后导致摩托车翻车,驾驶摩托车的B死亡。

  X2购买了由汽车公司Y2所制造、售卖的自动驾驶汽车(第4级或者第5级),在普通公上以40公里的时速行驶。本案中的自动驾驶汽车装有防冲撞系统,可以通过紧急制动避免冲撞,在判断已经来不及紧急制动的情况下,其设计是向左右打方向盘来避免冲撞。但如果是在即便采取了这样的紧急措施也无法避免冲撞的情况下,比如说如果紧急制动的话会与后面的车辆冲撞、向左打方向盘的话会与行人冲撞,向右打方向盘的话会与后方驶来的摩托车冲撞的情况下,则会采取使人减少到最低的措施。X2在单行道上行驶,前方一辆迎面驶来的汽车冲向X2,因此本案中的自动驾驶汽车就只能向左或者向右打方向盘,但是左侧人行道上有一位行人C,右侧的人行道上有一小群人正站着说话,因此本案中的自动驾驶汽车选择向左打方向盘,虽然避免了与前方车辆的冲撞,但是却碾过了C导致其死亡。

  在AI网络时代,短期问题、中期问题和长期问题的主题可能会是不同的。因此需要在刑事法中思考的问题也与多个话题相关。比如说,某些人出于恶意,在AI中装入令其失控暴走的程序漏洞(bug),或者对其进行黑客,这样的事例会给AI网络带来严重。对世界来讲这都是一个重要问题。比如说,在2014年网络犯罪相关报告书中,指出了IoT存在的问题,称不仅仅是智能手机,智能家电等设备也有被恶意操控的性,为我们敲响了警钟。但是,本文将不涉及这些出于主观意图的黑客等问题。本文所探讨的对象是,AI网络虽然以社会利益最大化为目的,但却不是由于有意的,而是由于AI采取了有问题的运作方式而导致出现了侵害的情况。在这里举的案例,就是开头的情景设定里提到的,由自动驾驶汽车导致的伤亡事故。本文以自动驾驶汽车为主题,对刑事法中可能产生的问题展开讨论。

  自动驾驶汽车,或者自动运行汽车是指,搭载了即便不通过驾驶人员的操作也能够安全地移动到指定目的地(自动驾驶)的系统的汽车。这种自动驾驶是通过AI软件实现的,因此自动驾驶车也可以认为是安装了这样的AI软件的汽车。之所以引入自动驾驶汽车,是因为交通事故(死伤事故)中超过九成,都与驾驶员的人为失误相关,因此为了降低由人为失误引发事故的可能性,增大社会获得的便利与益处,人们认为引入自动驾驶汽车基本上是符合社会预期的。特别是在今后日本老龄化社会问题将进一步加剧的情况下,与中青年人相比,高龄者的认知、判断能力将会降低,因此这种自动驾驶汽车的登场,将令高龄者可以享受到既安全又舒适的移动,从这个角度来讲自动驾驶汽车的意义很大。

  根据2016年由SAE(Society of Automotive Engineers,美国汽车工程师学会)提出的标准,自动驾驶汽车根据其可自动化的程度,分为从0到5的6个等级。导入了能够对行驶进行自动的系统的自动驾驶汽车都超过了第3级(有条件的自动驾驶),而第3级中,由于某种情况(比如说恶劣天气)导致自动驾驶系统对监测能力受限时,就要靠驾驶员人为判断,驾驶员必须恰当处理(称为“人工接管”[override])。到了第4级(高度自动驾驶)或者第5级(完全自动驾驶),则完全不考虑这种人类驾驶员人工接管的必要性,彻底依靠自动驾驶系统进行应对。像这样,第3级的自动驾驶汽车与第4级以上的自动驾驶汽车,在发生重大紧急事件之时,是否需要人类驾驶员做出妥当处理这一点上有所不同,特别是从刑事责任的角度来看,具有很大差异。

  接下来我们来讨论一下,在开头的情景设定中,到底应该由谁来对人的死亡承担刑事责任。事例1与事例2最大的不同就是,前者中基本应由人类驾驶员来承担责任,而后者中的驾驶员则基本不需要对自己的负责。

  在事例1中,自动驾驶系统要求驾驶员X1自主控制汽车。因此,可能会有人认为,只要存在自己对汽车进行导致了B的死亡这一事实,X1的驾驶致(《汽车驾驶死伤处罚法》第5条)就理应成立。但其实,这里值得讨论的问题是,到底应该判定X1在什么问题点上产生了呢?在刑法中,如果要认成立,就必须要认定有违反注意义务的情况,那么X1具体在哪些点上违反了注意义务呢?

  汽车驾驶员在驾驶汽车时必须承担的义务中,最基本的一条就是注视前方。也就是说,道的状况时刻都在发生变化,驾驶员要及时并且恰当地应对这些变化,因此必须要时刻注视前方以取得与道状况相关的信息。即便是第3级的自动驾驶汽车通过自动驾驶系统行进的时候,我们仍认为驾驶员注视前方是其不可免除的基本义务。也就是说,自动驾驶系统在对汽车进行控制时有可能随时切换成驾驶员的人工接管模式,而作为驾驶员必须要为人工接管模式做好准备,时刻注视前方获取道状况信息。所以说,X1即便是在以自动驾驶模式行驶的过程中,也不能免除掉注视前方义务,必须要时刻注视前方。

  但还是有人可能会对这种思维模式产生质疑。举个极端的例子,我们是否能够要求驾驶员在自动驾驶模式行驶的时候,也永远像自己驾驶时一样集中注意力呢?第3级的自动驾驶汽车,在进入人工接管模式之前,所有驾驶任务都是由自动驾驶系统进行处理的,而驾驶员也以这些系统为前提,也就是说驾驶员认为系统进行的这些处理是恰当的,是值得信任的,并以此为前提乘坐自动驾驶汽车。驾驶员对自动驾驶系统的这种信赖,恐怕是法律没有考虑到的。

  在刑法中有一个原则,即行为人如果是在信赖他人行动的情况下,即便是由于该行为人采取了不恰当的行为而导致侵害了他人的权益,也不会对行为人追究责任(信赖原则)。适用于信赖原则的,基本上都是基于人类行为的问题。在事例1中,如果可以信任汽车公司Y1,认为其能够设计、制造出正确恰当运行的AI,那么即便是AI的运行出现了不恰当之处导致侵害了他人的权益,那么也应该认为行为人不为此承担责任。但是,在事例1中,切换到人工接管模式本身是恰当的运行,所以并不是自动驾驶系统进行了不恰当的运作因此催生了事故。也就是说,第3级自动驾驶汽车的设计就是以人工接管模式为前提的,因此只要不是出现了本来完全不应该切换到人工接管模式之时却被切换到了人工接管之类的事情,那么就无法免除X1的责任。

  但即便信赖原则在这里不适用,然而回到前面提到的疑问,对于没有亲自和驾驶的驾驶员,到底是否能够期待他能像自主驾驶的驾驶员那样专心地注视前方呢?这个问题是依然存在的。即便是自主驾驶的驾驶员,有的时候也会注意力涣散,一边看着其他东西一边驾驶的情况并不少见。非自主驾驶的时候就更是如此,当然也可以想象驾驶员会因为无聊而看手机。考虑到这种状况,对那些非自主驾驶的驾驶员也同样要求完成注视前方义务,违反义务就要对他们处以交通违章罚款,并(根据违章扣分的累计)进行暂停、吊销其驾照等行政制裁,或(在发生事故的情况下)施以刑罚,这样是否妥当呢?如果同样要求完成注视前方义务,那么在第3级自动驾驶汽车的用户界面中,就应该设计并安装一些功能,让那些非自主驾驶的驾驶员也要注视前方,这种设计常重要的。除此之外,对于紧急事态下被切换到人工接管模式的驾驶员,到底能否及时进行应对,这又是另外一个问题了。切换到人工接管模式所需要的时间,最短的情况下只有4秒11,即便注视着前方,也很有可能出现无法靠紧急制动避免事故的情况。这种情况下,能否依靠紧急制动以外的方法来避免事故就成了问题的关键。事例1中,如果想要避免与A的冲撞,那么只能向右打方向盘,由于B也在超速行驶,由此导致了本案中的冲撞。在这种情况下,驾驶员X1有可能相信B会遵守最高限速行驶,这就可以适用刚才所提到的信赖原则。那么就能得出结论,否定掉X1的责任。

  在事例2中讨论的是第4级以上的自动驾驶汽车,在这个事例中完全不考虑人类会对驾驶产生什么影响,可以说本案是一个完全起因于自动驾驶系统的事故案例。但是,在日本所批准的道交通相关条约(通常所说的《公约》)中,第8条第1项中就了车辆中必须要有驾驶员,而根据第4条的定义,所谓驾驶员是指在道上驾驶车辆的人。因此,第4级以上自动驾驶汽车,人类是无法参与其中的,而这样的自动驾驶汽车是否满足条约的要求,就成了一个关键性问题。假如说前提条件就是驾驶员一定要是人类,那么不修订《公约》的线级以上自动驾驶汽车根本就不会被允许在道上行驶。

  那我们首先假定,我们要修订《公约》,并允许第4级以上自动驾驶汽车在道上行驶。那这里出现的问题就是,从理论上来讲,是否可能对设计这种自动驾驶汽车的设计人员,以及构成自动驾驶汽车的系统(程序)追究刑事责任。前者是对自然人追究责任,而后者是对系统或者说AI这样的非自然人追究刑事责任,两者的性质截然不同。在这里,首先对最近大家都很关心、乐于讨论的后者展开探讨。

  从传统刑的立场出发,我们认为所谓刑罚,只能于像自然人那样,具有一定人格的存在。从这个观点出发,那么能否认为自动驾驶汽车的系统,即AI是拥有人格的呢?这就是问题的关键点。

  比如说在就有学者从正面对是否可以认定AI拥有电子人格一事展开了讨论。另外,在日本也有从传统刑的立场出发,针对是否可以肯定AI具有行为性和责任能力一事展开的讨论。像这种问题设定,即是否可以肯定AI具有人格这一问题,还有可能进一步分化为两种径。第一种径是从与自然人类似的观点出发,赋予其人格基础;第二种径则不讨论与自然人的类似之处,只讨论是否认可AI的人格并对其适法。

  第一种径中重要的问题是,AI拥有怎样的性质会导致其与人类相似。比如说,如果AI具有跟人类同样的认知能力、判断能力(责任能力),就可以认定与人类相似,进而有可能被追究刑事责任。从这样的径出发,预想过一些类人机器人AI(典型的就是“铁臂阿童木”和“终结者”),并认定它们是拥有人格的。但是另一方面,越是强调其与人类相似,那么就越有可能要超越追究刑事责任的前提赋予其“人格”的基础,而是变成要讨论其是否

  与人类一样需要,这一点有可能成为问题关键。从这种理解出发,最后对这个问题的讨论甚至可能会发展为,如果把与人类相似的AI掉或删除其程序,是否就与“死刑”同等。在这种否定死刑的国家,这样处置的本身都有可能被否定掉。但是,在与法人的人格(法人格)相关的讨论中,则不会产生这样的问题,其原因就是,与人类一样需要中所讲的“类人特性”,明显是一种过度的要求。与人类相似这一径,有可能会导致陷入“人之所以为人的根本到底是什么”(没有终结)的争论,因此必须要进行慎重的应对。

  而第二种径则不去探究AI与人类的相似性,而是探究是否可能赋予AI人格。但这里的问题就是,不管它是否与人类相似,都肯定AI拥有人格,并且使其适法,这件事到底在刑法上具有什么意义。以法人处罚为例,对法人刑法的意义在于,与自然人不同,对法人进行处罚可以发挥刑罚的抑止效果。那么假如说对AI进行处罚,可以得到某些抑止效果吗?如果说AI本身具有某些经济利益,而且具有以增大这些利益为目的而采取行动的特质,那么处罚就可以看作一种“打击”手段。但通常来讲,经济利益是专属于那些制造、贩卖AI的自然人和企业(法人)的,对AI处以罚金是没有意义的。将与自然人相同的刑(惩役、)到AI身上也是没有意义的,损坏AI或消除程序,这种相当于对AI处以“死刑”的刑罚,也很难被认为是有意义的。

  所谓刑罚,必须要令被罚对象感受到一定的负担,而且国家要将一定的污名(stigma)附加给该对象,也就是说,让国家对AI传达法律上的24,说“你这家伙做出了某种坏的行为,是应该受到大家的AI”。我们必须思考这件事到底具有怎样的意义。便当人类幼儿做了什么违法行为的时候,国家并不会以传达法律上的的形式附加污名到该幼儿身上,这是因为,我们在社会中,只会对对等的做出法律上的。也就是说,这里需要探讨

  而且,如果要对AI能给它带来不利的处分,比如说掉AI,删除其程序等,即便不采罚的形式也可以做到。对人类可以不以其责任能力为前提的处分(治安处分),所以从理论上来讲,对于AI,即便不讨论它是否是人格主体,是否具有责任能力,单纯对其这样的处分也是可能的。从这个角度思考的话,我们就会质疑,讨论“AI是否可能成为适罚的对象”这种问题到底有什么意义。因此,追究AI本身的刑事责任这一方向,就可以被否定掉了。

  在无法追究AI本身刑事责任的情况下,接下来马上要处理的问题就是,设计、制造这些AI的人的责任。如果说AI的判断有瑕疵,那么设计出这些拥有瑕疵的AI的设计者和制造者的制造物刑事责任就成了问题的关键所在。另外,明明知道这些瑕疵的存在,却没有从市场上回收该AI(在本案中是该自动驾驶汽车)的情况下,还要另外追究其的责任。

  那针对这种情况,事例2中需要探讨的问题就是,到底能不能说汽车公司Y2,在该自动驾驶汽车的设计、制造过程中有一定的瑕疵呢?或者更确切地讲,催生本事故的自动驾驶系统的判断,是否有瑕疵?为了探讨这个问题,我们要在下一小节中对本案中的自动驾驶系统的程序设定展开讨论,即在无法避免一定的冲撞事故的情况下,则要将损害减少到最小限度,我们应该如何评价这种程序设定呢?

  所谓生命权的两难境况,就是指最近很多人讨论的“电车难题”,在刑中也被称为“扳道工案例”。30其中最典型的就是这个事例。一辆失控的电车在轨道上行驶,如果让它继续在这个轨道上行驶的话,该线个人来不及逃离,被电车碾死。看到这种情况的扳道工甲,为了这5个人的生命,改变了列车运行的轨道,导致在第二条线上的乙被电车碾死。甲认为,让乙一个人死亡这个结果是不得已而为之。

  在这个事例中,可以认为由于甲改变轨道的行为,导致了乙的死亡,因此罪是成立的。但是,在一定有某一条线上的人无法避免死亡的状况之下,为了5个人的生命而1个人的行为,是否应该按照罪进行处罚呢?

  像这种生命权的两难境况中,需要探讨的问题就是,紧急避险是否成立。所谓紧急避险是指,当发生某种不是由于任何人的而产生的的时候,在一定条件之下,允许将这种给他人。特别是在紧急避险的情况成立之时,为了保全更为重大的利益,而侵害某种小的利益,很多时候也会被认为是必要的。

  那在“扳道工事例”这样的情况之下,能否将甲的行为看作紧急避险进而将其行为正当化呢?刑对这个问题展开了积极的探讨,在《刑法》中通常认为,对于这种与生命权相关的两难境况,要否定任何试图将其正当化的行为。从这个立场出发,将甲的行为定义为所谓正当化的紧急避险(违法性的紧急避险)恐怕是不成立的。

  但与之相对,日本《刑法》第37条所的紧急避险,却不一定会得出这种观点。这是因为,日本的紧急避险只要避难行为“导致的损害不超过所避免的损害”就可以成立,乙一个人死亡这种侵害结果,就可能被评定为,并不超过被避免了的5个人的生命被侵害这一结果。从这个观点出发,生命权的两难境况中,只要是有想要将损害到最小化的意图,就有可能被认定为紧急避险。

  在,对扳道工事例中任何行为的正当化都予以否定,这已经是的观点,但是对于自动驾驶汽车的程序设计,却有另外一种观点更为有力。根据这种观点,实际上产生生命侵害的时候是否可以从事后的观点出发对其进行正当化,和事前是否能够采取某种策略避免死亡事故,是两个不同的问题点。在前者,想要事后对生命侵害这一结果进行正当化是不被容许的,但是后者,事前就要有将损害最小化的则被为义务,为了使损害最小化而采取某种措施被认为是“可以允许的”。

  即便是在日本,针对生命的两难境况,也并不是说只要有将损害最小化的,就可以将其行为正当化,但上述的观点也是值得参考的。可以理解为,对于第一种已经将事故发生的可能性降到最低的情况下仍然发生了的事故,第二种将损害减少到最小化的程序,被认定为可以允许的,其罪与驾驶致不成立。从这种理解出发,对于事例2中汽车公司Y2,出于可以允许的这一理由,将被判定为不予处罚。

  本文所述的内容中,关于自动驾驶汽车是否是通过信息网络与其他自动驾驶汽车联动运行这一问题是性的,没有进行具体的论述。但是今后随着AI网络化的进展,我们也当然可以设想,第3级以上自动驾驶汽车,会与其他自动驾驶汽车以及AI联结,追求更高效率和高性能的操作。但是,这样高效率高性能的AI网络系统,当然也依然存在着发生事故的可能性。本文主要对发生这种事故时的刑事责任的归属问题展开了讨论。

  像这种广泛的网络化如果进一步得到发展,我们可以预想到,自动驾驶汽车发伤事故的情况下,应该被追究刑事责任的主体不仅仅包括驾驶人员,或者说并不是驾驶人员,而是变成了管理网络的“高级人员”。针对这种管理责任,今后也有必要进行更深入的探讨。

      和记娱乐,和记h88,h88平台官网