全球第一起自动驾驶杀人案 如何判定技术与人的过错
在极端情况下,如何判定技术与人的过错?
Uber 的案例给出了一个比较清晰的答案,只是这答案不一定正确。
9 月 16 日,曾经轰动一时的「自动驾驶杀人案」有了初步判决结果。美国亚利桑那州马里科帕县的检察官表示,坐在驾驶位的安全员 Rafaela Vasquez 被控过失杀人罪,但他所在的公司 Uber 在这起事件中不会面临刑事指控。
这是全世界范围内第一起自动驾驶汽车撞人致死的交通事故,由此也引发了行业当中不小的震动。当然,比起行业影响,这起事故本身反映的情况更值得我们讨论:人与机器共同犯下的错误,一定要由人来承担所有罪过吗?
当「安全员」变成「背锅员」
虽然案件的最终判决结果还未确定(10 月 27 日案件将举行初审),但安全员将面临两年半的有期徒刑。目前,当事人Rafaela Vasquez 拒绝认罪。
距离事发已经过去了两年半的时间,我们先来做个简单回顾:
2018 年 3 月,Rafaela Vasquez 作为安全员乘坐的 Uber 自动驾驶汽车在亚利桑那州进行自动驾驶测试时,撞到了一位推着自行车横穿道路的女性,致其死亡。
根据美国国家运输安全委员会(National Transportation Safety Board,以下简称 NTSB)调查结果显示,当时车辆时速为 62km/h,而道路限速 50km/h。
在整起事故当中,安全员并未担负起她应尽的责任。众所周知,在当下自动驾驶测试中,绝大多数车辆都会配备 1-2 名安全员,如果车辆出现意外,安全员需要随时接管。但是在本案中,安全员 Vasquez 并没有专注在道路上,而是时不时低头看右下方中控台上的手机。在行车记录的视频当中,事故前半秒钟她才抬起头来,但为时已晚。
车内安全员视角,事发前半秒安全员才发现道路前方的行人 | YouTube
如果安全员不在车上看手机分心的话,事故是完全可以避免的。这是警方得出的结论,因此判定结果把责任全部推给了安全员。
「杀人的是人,不是机器。」如果最终判决就是这样的结果,难免有些草率了。
在 NTSB 的调查报告中,Uber 的自动驾驶技术明显存在缺陷。在撞到行人前的 5.6 秒时,Uber 的自动驾驶解决方案(Autonomous Driving Solution,以下简称 ADS)已经检测到行人,但从未准确地将她归类为「人」。几秒钟之内,自动驾驶系统把它识别为未知物体,然后识别为车辆,然后变成自行车,却一直没有自动刹车。
等到自动驾驶判定为即将发生碰撞时,机器已无法及时刹车。这又是系统的一个 bug 类设计:它没有考虑到突然发生碰撞的可能性,因而没有设计紧急制动,而是纯依靠安全员的干预来避免碰撞。
车外视角,直到事故发生自动驾驶系统也没有识别出行人 | YouTube
Uber 的自动驾驶技术当时也不算多先进。加州交管局 DMV 之前发布的年度接管报告表示,Uber 的自动驾驶汽车在测试过程中需要安全员频繁接管,平均每 37km 就要进行一次人工干预,对比目前业界公认第一的自动驾驶公司 Waymo,后者在 2018 年每 1000 英里测试人工接管的次数为 0.09。
更不可思议的是,Uber 还停用了车辆本身的前方碰撞预警和自动紧急制动系统,一辆本身就配备安全系统,加装众多传感器的自动驾驶系统的智能汽车,最依赖的结果还是人。
北京市安理律师事务所汽车和人工智能业务负责人何姗姗在接受极客公园(ID:geekpark)采访时表示,Uber 的自动驾驶车辆的确存在产品缺陷,从这个角度来看,Uber 作为技术背后的企业应该负担安全事故责任。但这起案件的结果代表着美国对于新技术比较宽容的态度,「如果同样的事件放在德国这种监管比较严格的国家,结果会很不一样。」
NTSB 的最终调查结果认为,安全员事发时看手机分散了注意力,并且 Uber「安全文化不足」导致事故发生。从事实上看,安全员固然有责任,但技术同样有明显纰漏之处,有着不可推卸的责任;但从法律上给出的结果,人承担了全部的刑事责任,技术无罪。不承担刑事责任的 Uber 需要做的就是改进自动驾驶技术的缺陷。
很明显,在这起事件当中,安全员变成了「背锅员」。
技术的长期挑战
人类学家玛德琳 · 克莱尔 · 埃利什(Madeleine Clare Elish)在研究航空领域自动化背景下美国对于航空事故的判定时发现,尽管大趋势是飞机的控制越来越转移到自动驾驶,但对于飞行事故的责任判定仍旧集中在飞行员身上。
她认为,在高度自动化的系统与责任归属的实际分配方式之间存在着巨大的不匹配。因此,她得出结论:法律责任和责任的概念未能与技术进步保持同步。
在 Uber 自动驾驶案中,似乎是一样的道理。在自动驾驶的测试中,安全员的作用在一整套系统当中仅占据很少部分,更何况自动驾驶测试的最终目的就是拿掉安全员,实现真正的无人驾驶。
何姗姗表示,高级别的自动驾驶环境中,尽管有汽车的「黑匣子」可以记录相关数据,但在责任的划分上也会出现困境,需要在技术层面和未来立法层面做改观和突破。
华盛顿大学法学院的机器人学法学教授 Ryan Calo 表示,安全员的过失导致行人身亡,这是一个简单的故事;如果对公司提起诉讼,必须要讲述一个更加复杂的故事,「涉及自动驾驶汽车的工作原理和 Uber 的错误之处」。
事实上,现如今也没有一条法律能够证明,L4、L5 级别的自动驾驶事故中哪一方该承担哪一部分的责任,需要通过汽车内外部摄像头等设备记录的数据来判断最终的责任归属。
不仅是法律上的界定,从技术发展的角度来看,都会是一个社会性的难题。人类社会对于新技术的一大挑战,就是技术本身还没有准备好,人却高估了技术能做的事情。
特斯拉在发布旗下辅助驾驶系统 Autopilot 之后,全球范围内发生了多起交通事故,原因在于驾驶员过于信任这套辅助驾驶系统,高估了它的能力。即便特斯拉在 Autopilot 的宣传当中重点强调,它只是 L2 级别辅助驾驶,行驶过程中驾驶员必须随时关注道路并接管,但还是有人无视这一规则,归根结底就是对于新技术过于信任。
2020 年 6 月,一辆处在辅助驾驶状态的特斯拉撞上了前方横着的卡车 | 网络
Uber、Waymo 等公司在做的 L4 级别自动驾驶多数情况下依旧需要安全员的存在,恰好说明了至少在目前,技术都不可能达到完美的状态。
MIT曾经提出过「人机共驾」的课题研究,这项研究存在的基础就是短期内人不会从自动驾驶汽车中消失,在低级别的自动驾驶当中,仍然要「以人为中心」。在这样的预期之下,人与技术共存将是未来长期的状态,从以人为中心到以机器为中心转变的过程中,也会引发法律和道德上一系列框架的设定。
相应地,在自动驾驶领域怎么判断安全员所处的位置,进而调整安全员体系;甚至在人与机器协作的领域里,怎么思考以人类视角与机器视角分配工作与责任,其实都是我们应该去细化的方向。
技术的目的是服务于人,如果人要为技术背锅,道理上无法讲得通,不要让人成为技术发展的「牺牲者」。
标签:
相关阅读
-
-
报道:双星新材董秘回复:短期波动受到多种因素影响,因坚定自身而努力发展,公司持续深耕新材料发展,积极调整产品结构
双星新材(002585)06月08日在投资者关系平台上答复了投资者关心的问题。
2023-06-08 -
海泰新光董秘回复: 公司第一代产品没有在市场上进行大量推广,这是与公司的产品和市场定位有关|热点在线
海泰新光(688677)06月08日在投资者关系平台上答复了投资者关心的问题。
2023-06-08 -
csgo能不花钱开箱子吗?csgo一周可以掉落几个箱子?
csgo新手怎么获得箱子?csgo开箱网站,这两年可以说火遍全球,每一个csgo玩家都着迷与其中不能自拔,csgo...
2023-06-08
精彩推荐
阅读排行
相关词
- 深圳阳光整形美容医院怎么样_是三甲医院吗
- 手机评测排名2022:不同价位段中的最佳选择
- 海泰新光董秘回复: 谢谢您对公司的持续关注,也感谢您对公司的理解和支持-播报
- csgo开箱回本率是多少?csgo开箱微信支付在哪里?
- 向海图强!海洋经济“扬帆远航”-今日热搜
- csgo开箱梗是什么?csgo怎么批量开箱?
- 每日看点!更宽敞!我国新一代载人飞船可坐7人,将实现回收技术
- 微信群待办怎么发 微信群待办怎么发起-天天微速讯
- csgo开箱玄学有哪些?csgo开箱看见金了必出吗?
- Win11永劫无间蓝屏出现应该如何应
- 雾霾蓝连衣裙配什么鞋子 雾霾蓝连衣裙搭配什么鞋子-世界讯息
- 深圳友华普惠眼科怎么样 手术案例效果证明一切_全球实时
- 每日热文:通讯:“中国为我打开机遇之门”——一个洪都拉斯青年的中国情缘
- csgo开箱多少钱一个?csgo开箱模拟器推荐
- 日本民众举行抗议活动 反对政府排放核污染水入海_环球时快讯
- 离婚协议书的格式 离婚协议书的格式怎样写图片
- 潘功胜:中国坚持稳健的货币政策是金融周期相对稳健的原因-短讯
- 全球要闻:普通话手抄报内容大全_普通话手抄报内容精选
- CPU蓝屏一进系统就重启该如何解决
- 热点评!公安部交管局公布近期三轮车肇事肇祸典型交通事故案例
- 海南司机 今日高考英语听力考试期间途经考点禁止鸣笛-世界视点
- 长三角铁路端午小长假预计发送旅客1500万人次
- 妄想山海营地怎么升级(妄想山海营地如何升级) 环球即时看
- 什么是新零售的前端表象(新零售的表现形式)
- 怎样快速去黑眼圈_怎么去除黑眼圈|世界聚看点
- api-ms-win-core-bicltapi-l1-1-0.dll文件丢失如何修复?|热点在线
- xmllite.dll文件被破坏怎么办|天天微动态
- 一公顷等于多少平方千米_等于0.01平方分米
- 星球神偷官网在哪下载 最新官方下载安装地址
- 今日热搜:和平精英第十周任务怎么完成 任务完成技巧方法详解
- “国企领导牵手门”最新进展:牵手门涉事女子已被停职并接受调查
- 如何解决msprivs.dll报错丢失问题 环球热头条
- 前沿资讯!英语四级多少分及格_英语四级简介
- 灵显第一季_关于灵显第一季介绍 焦点日报
- 国服csgo如何开箱?csgo国服开箱方法介绍
- 河南省开封市龙亭区市场监管部门就定量包装茶叶过度包装问题开展专项检查和行政指导
- 天天速读:安徽省市场监管局推进法治政府建设结硕果
- 7b蓝屏怎么解决
- 新知青_关于新知青简介
- 深圳思莉医疗美容门诊部怎么样 真实情况在线获取-全球播报
- 新石器_关于新石器简介 环球热点
- csgo去哪开箱?csgo新人玩家开箱攻略
- 端午假期火车票6月8日开售,年轻人寻找下一个“淄博”
- 视焦点讯!童年好词好句好段_童年好词好句好段总结
- 老火靓汤的做法_教你做五种最简单的广东老火靓汤
- 遗憾!河南一考生因迟到未能进入考场 老师考场外安慰
- 当前动态:元宵节吃汤圆和元宵是一样的吗_元宵节吃汤圆和元宵介绍
- 老六爱找茬什么时候出 公测上线时间预告
- 中国石油大学辟谣!|全球新动态
- 小房子简笔画涂色(小房子简笔画) 天天看热讯
- 万宁市气象台发布雷电黄色预警【Ⅲ级/较重】【2023-06-08】 最新资讯
- 重庆璧山区扎实开展政府质量管理奖培育、评选、管理工作
- 世界讯息:小女巫奥莉维亚的魔法商店官网在哪下载 最新官方下载安装地址
- 比亚迪推出10万元内新SUV车型 焦点热议
- 世界速看:公共 | 河北省石家庄市井陉县文旅局关爱未成年由“送文化”到“种文化”传承优秀文化
- 环球短讯!剑影寻光官网在哪下载 最新官方下载安装地址
- 河南省渑池县持续优化营商环境激发经营主体活力_今日快看
- 四川省市场监管局全力助推个体私营经济高质量发展 聚看点
- 旅游 | 河东文旅精品“引燃”美丽深圳 环球热文
- 国家金融监督管理总局:要真正实现金融监管“全覆盖 无例外”-焦点播报
- “第一生育大省”广东作部署:支持有条件地区发放育儿补贴 全球信息
- 坐竹筏被筏工索要红包?广西阳朔:景区公司暂停涉事人工作2个月
- 天天速读:两部门印发通知:举办全国和美乡村篮球大赛
- 向海图强!海洋经济“扬帆远航”_环球讯息
- csgo国服不能开箱子吗?csgo国服开箱子详细介绍
- wmvdspa.dll损坏修复方法
- 如何解决出现olepro32.dll加载错误的问题
- Win7运行Wegame蓝屏出现该怎么应对
- 天天要闻:实控人被列入失信被执行人名单,加加食品的股价持续下跌
- storport.sys蓝屏无限重启应该如何应对
- 潘功胜回应汇率波动:我国外汇市场将有条件保持较为平稳运行状态
- 德阳市旌阳区人大常委会调研区农村集体经济发展情况
- 新疆皮山机场新建工程选址报告获中国民航局批复 环球速看料
- 每日观点:政府当“红娘”,企业来“相亲” 这场产销对接会为四川纺织服装产业送福音
- 德阳市旌阳区双东镇“三强化”提升基层人才能力|世界快消息
- 浙江空管分局首次建设完成国产化导航台设备
- 顶烈日 战高温 什邡公安交警为高考保驾护航
- 世界微资讯!线上线下齐发力 全民共享“四川非遗购物节”
- 世界快讯:移动廊道亮相广州白云机场 为远机位乘机旅客撑“伞”
- 天天快看点丨海南海洋乐园大盘点~别收藏,我怕你玩不过来
- 山东机场:强化“四心宣讲”奏响“空港乐章”|每日动态
- 天津航空:为旅客提供安心的出行保障
- 【环球播资讯】南充蓬安:护航高考 交警同行
- 南充顺庆:爱心助考 “电”亮未来
- 环球热资讯!emulator64.dll丢失如何修复
- PEX启动蓝屏出现应该如何应对 世界简讯
- 践行“绿水青山就是金山银山”通过设立巡逻队来禁止渔民非法采集珊瑚 并吸纳渔民进入景区就业|环球微头条
- 2023年6月大学生村官考试公告汇总
- 环球快报:生存冒险游戏《血清》新预告 支持简体中文
- 天天最资讯丨应急管理部:今年以来生产安全事故起数和死亡人数持续下降 但重特大事故有所反弹
- 微动态丨威高骨科:脊柱、创伤、关节三大领域全部集采并落地执行
- 康泰医学:暂无脑机接口相关产品
- 士兰微:65亿定增获证监会批文 IDM龙头加速汽车芯片产品升级
- 李云泽:下好风险前瞻防控先手棋 以更加主动态度应对风险隐患-全球今亮点
- 全球热讯:中级经济师《金融》每日一练(2023.06.08)
- 腾讯《无畏契约》国服今日终测 20名英雄爽玩 天天报资讯
- 永远杀不完 任天堂发布《塞尔达》历代总BOSS加农集锦_焦点速读
- 世界新资讯:君禾股份:未来预期随着海外库存消耗及消费市场逐步复苏 水泵主业会呈现复苏反弹
- 2023山西太原市古交市招聘社区专职社工体检和考察公告_天天时快讯
- 易纲:坚决把绿色金融工作摆在突出位置,实现“3060”目标需要胡萝卜加大棒
- 2023年山东泰安肥城市城市社区专职工作者招录进入面试范围人员递补名单(第三批)_时讯
- 每日看点!隔夜SHIBOR报1.3390% 下降6.50个基点 7天SHIBOR报1.8500%
- 世界快播:华菱钢铁:目前废钢资源相对稀缺成本较高,长流程炼钢更具经济性
- 全球消息!易会满:进一步打通痛点堵点,为机构投资者入市创造更加有利环境
- 《神秘岛》开发商新作《苍穹乾坤》使用AI辅助开发 引众筹者不满
- 天天头条:五大行再次下调存款利率
- 客人去哪了?五一后各地餐饮生意直线下滑,突然就没人了
- 当前快看:理想汽车在青岛成立销售公司
- 潘功胜:中国稳健金融周期为经济和金融市场运行提供适宜环境
- 美国社交电商再起波澜:TikTok商城开张,Meta却要闭门做生|今日快看
- 世界快资讯:上海再保险“国际板”正式启动
- 特别好评RPG游戏《恐怖的世界》 完整版10月19日上线|环球精选
- 易会满:持续加大对伪私募、地方交易场所等重点领域风险的整治
- 十元店重回巅峰:新穷人与日本1990s
- 每日快报!教育股震荡走低 国新文化跌超8% 荣信文化跌逾7%
- 全球快讯:央行潘功胜:人民币债券具有良好的投资组合分散化价值
- 国产大飞机开启常态化商业运行:C919带动产业链一起飞 市场规模有望达万亿元量级
- U盘安装系统时蓝屏怎么解决 全球头条
- ROG蓝屏后该采取什么解决方法来重启 世界快报
- 中国地震局:国家地震烈度速报与预警工程已完成主体建设任务 焦点讯息
- win10启动就蓝屏是怎么回事 全球热点
- 环球头条:华硕笔记本acpi蓝屏该如何解决
- 世界最资讯丨打击违规销售作弊器材行为 海南省市场监管部门多措并举为高考中考保驾护航
- 每日热议!永劫无间蓝屏死机应该如何处理
- KMODE蓝屏出现应该如何处理 全球观热点
- 携程集团发布2023年第一季度财报
- 甘肃省华亭市东华镇市场监管所开展农村夏季食品安全专项检查_环球热资讯
- 深圳市市场监管局总部经济审批服务“全市通办”正式落地
- 解码开化(一) 文旅产业:从“高看一眼”“棋高一招”到“焕然一新”
- 第五届京津冀石墨烯大会在北京房山举办,加速三地产业链深度融合
- 高考期间海南天气如何?未来两天多云有雷阵雨 焦点速读
- 别被“蚊蝇通杀”迷了眼
- 啥是海洋?直播带你一起看 天天快看点
- 内罗毕:低碳和电动交通载具展 天天观速讯
- 环球播报:斯诺克新星赵心童为涉赌遭禁赛道歉
- 《沙石镇时光》:1.0版本发售日期公布!通过“塑造你的未来”预告片为前方的秘密和危险做好准备 世界独家
- 关注眼健康亟须全社会行动起来
- 哈利波特魔法觉醒怎么尊享眉色 尊享眉色方法攻略 环球速看
- 甘肃省华亭市市场监管局多举措保障中高考期间食品安全 环球新动态
- 第19届深圳文博会人气旺 每日快报
- 甘肃省嘉峪关市市场监管局镜铁分局全力保障高考期间食品和特种设备安全
- 河北沙河:太行古村落焕发新活力_天天快播
- 世界百事通!晋陕峡谷遇奇石
- “共建首都跨境电商新生态”系列活动在京启动 每日热门
- 环球看热讯:汉字工坊上班不带饭怎么过 找出9个公司吃的答案分享
- 甘肃省张掖市新墩市场监管所“三力齐发”加强中高考期间特种设备安全保障_环球热推荐
- 快消息!小心,这种眼疾易盯上上班族
- 眼药水怎样使用才正确
- 当前讯息:机器人:公司基本实现了35kg以下新款机器人减速器的国产化替代
- 华菱钢铁:钢材产品在新能源新材料领域需求前景将持续向好-天天通讯