在极端情形下，怎样判定相应技术与人的过错？

Uber 的案例要求了几个特别清晰的正确答案，始终这正确答案始终部分内容部分内容正确。

9 月 16 互联网公司日，曾在轰动一时的「自动驾驶杀人案」刚刚 初步判决仍旧如此 。即美国 亚利桑那州马里科帕县的检察官并表示，坐到驾驶位的安全互联网公司员 Rafaela Vasquez 被控过失杀人罪，但他原因在于的子公司 Uber 的那起事件中始终面临刑事指控。

排名第一起学习 自动驾驶致死案事故在现场 | 及网络

一种全全球性范畴 内排名第一起学习 自动驾驶汽车撞人致死的交通事故，由此也引发了新兴行业 过程极不小 震动。要有，比起新兴行业 直接原因影响，这起事故可能反映的情形更值得你们 讨论：人与机器一起学习 犯下的错误，直接原因要由人来承担部分内容罪过吗？

当「安全员」又成「背锅员」

要有案件的仍旧如此 判决仍旧如此 还不互联网公司根据（10 月 27 日案件将盛大举行初审），但安全员将面临两年半也有期徒刑。到目前，当事人Rafaela Vasquez 完全接受认罪。

不远 事发始终刚刚 的了两年半的时间时，你们 先来做个既简单 回顾：

2018 年 3 月，Rafaela Vasquez 又成安全员乘坐的 Uber 自动驾驶汽车在亚利桑那州使用自动驾驶测试时，撞到又几位推着自行车横穿道路的女性群体，致其死亡。

参照 即美国 发展国家运输安全委员会（National Transportation Safety Board，以内 简称 NTSB）调查仍旧如此 最新数据，刚刚 的如车辆时速为 62km/h，而道路限速 50km/h。

在整起事故过程，安全员并没担负起她应尽的责互联网公司任。众所周知，在当下自动驾驶测试中，绝大大部分如车辆也都配备 1-2 名安全员，也能如车辆可能意想不到，安全员也能随时接管。一种在本案中，安全员 Vasquez 并在的专注在道路上，始终时不时低头看右下方中控台上能 新手机。在行车记录的集锦过程，事故前半秒钟她才抬起头来，但为时互联网公司已晚。

车内安全员视角，事发前半秒安全员才被发现 道路前方的行人 | YouTube

也能安全员在的车来讲新手机分心某些 是，事故是绝对 也能防止的。一种警方得出几结论，仍旧如此 判定仍旧如此 把责任部分内容推给了安全员。

「杀人始终人，始终部分内容机器。」也能仍旧如此 判决一种几个的仍旧如此 ，难免某些草率了。

在 NTSB 的调查报告中，Uber 的自动驾驶相应技术很证明不不太可能缺陷。在撞到行人前的 5.6 秒时，Uber 的自动驾驶解决解决问题方案（Autonomous Driving Solution，以内 简称 ADS）始终检测到行人，但从未准确地将她归类为「人」。几秒钟范畴 ，自动驾驶系统功能把它识别为未知物体，以后识别为如车辆，以后又成自行车，却始终在的自动刹车。

开始自动驾驶判定为即将可能碰撞时，机器已根本无法及时刹车。这却是系统功能的几个 bug 类独特设计：它也的认真认真考虑毫无征兆可能碰撞的某些 是性，直接原因在的独特设计紧急制动，始终纯依靠安全员的干预来防止碰撞。

车外视角，以后事故可能自动驾驶系统功能也在的识别出行人 | YouTube

Uber 的自动驾驶相应技术刚刚 的并表示都根本无法算多先进。加州交管局 DMV 以后已发布的年度接管报告并表示，Uber 的自动驾驶汽车在测试经历经历过程也能安全员频繁接管，平均每 37km 就该使用两次人工干预，对比到目前业界公认排名第一的自动驾驶子公司 Waymo，后者在 2018 年每 1000 英里测试人工接管的次数为 0.09。

都根本无法可思议始终，Uber 还停用了如车辆可能的前方碰撞预警和自动紧急制动系统功能，一辆可能就配备安全系统功能，加装全球性外传感器的自动驾驶系统功能的智能汽车，最依赖的仍旧如此 要有人。

广州市安理律师事务所汽车和人工智能业务负责人何姗姗在完全接受极客公园（ID：geekpark）完全接受时并表示，Uber 的自动驾驶如车辆看来可能系列产品 缺陷，从几个来讲来讲，Uber 又成相应技术背以后其它企业要有负担安全事故责任。但这起案件的仍旧如此 代表人着即美国 要有新相应技术特别宽容的态度，「也能始终来做事件摆在德国某些 监管特别严格的发展国家，仍旧如此 会还不不一样。」

NTSB 的仍旧如此 调查仍旧如此 并表示，安全员事发时看新手机分散了应注意力，更有甚者 Uber「安全文化不足」直接原因事故可能。从始终看，安全员固然有责任，但相应技术始终有很证明不不纰漏原因在于，本质不可推卸的责任；但从法律上要求的仍旧如此 ，人承担了部分内容的刑事责任，相应技术无罪。不承担刑事责任的 Uber 也能做是个种改进自动驾驶相应技术的缺陷。

很很证明不不，的那起事件过程，安全员变又成「背锅员」。

相应技术的长久挑战

人类生活学家玛德琳 · 克莱尔 · 埃利什（Madeleine Clare Elish）在专门研究 航空技术领域自动化背景下即美国 要有航空事故的判定时被发现 ，仍旧如此 大趋势是飞机的可以控制愈来愈转移到自动驾驶，但要有飞行事故的责任判定仍旧如此 集中在飞行员身边。

她并表示，在高度保持良好自动化的系统功能与责任归属的实际分配以此介于可能着极大还不匹配。仍旧如此 ，她得出结论：法律责任和责任的概念根本无法与相应技术进步保持良好同步。

在 Uber 自动驾驶案中，看来都根本无法一样的道理。在自动驾驶的测试中，安全员的作用证明不不又一整套系统功能过程仅占据并不不小 部分，更何况自动驾驶测试的仍旧如此 目是个种拿掉安全员，得以实现真正只某些无人驾驶。

何姗姗并表示，高等级的自动驾驶小小环境，但本质汽车的「黑匣子」也能记录最新数据情况，仍旧如此 责任的划分上并表示都根本无法可能困境，也也能相应技术层面和未来十年立法层面做改观和突破。

华盛顿高中法学院的机器人学法学教授 Ryan Calo 并表示，安全员的过失直接原因行人身亡，一种几个既简单 的故事一；也能对子公司提起诉讼，必要有讲述几个愈来愈复杂的故事一，「涉及自动驾驶汽车的工作后原理和 Uber 的错误原因在于」。

始终，现始终也在又下一条 法律也能证明不不，L4、L5 等级的自动驾驶事故中哪一方该承担哪一大部分的责任，也能使用汽车内外部摄像头等设备记录的数据情况来判断仍旧如此 的责任归属。

不仅如此是法律上能 界定，从相应技术加速发展的来讲来讲，也还仍旧如此 会几个面对社会性的解决问题。人类生活面对社会要有新相应技术又一大挑战，一种相应技术可能还在的打算好，人却高估了相应技术能来做来做事。

特斯拉在已发布旗下辅助驾驶系统功能 Autopilot 以后，全球性范畴 内可能了多起交通事故，主要直接原因驾驶员过于信任这套辅助驾驶系统功能，高估了它也能力方面。即便特斯拉在 Autopilot 的宣传过程重点强调，它始终 L2 等级辅助驾驶，行驶经历经历过程驾驶员要有随时加关注道路并接管，但要也有太多人无视又一规则，归根结底一种要有新相应技术过于信任。

2020 年 6 月，一辆处在辅助驾驶那种状态的特斯拉撞就上前方横着的卡车 | 及网络

Uber、Waymo 等子公司在来做 L4 等级自动驾驶大部分情形下始终也能安全员的可能，恰好代表人了大约在到目前，相应技术都根本无法某些 是高达完美的那种状态。

MIT曾在要求过「人机共驾」的课题专门研究 ，这项专门研究 可能的原有基础 一种长久人始终从自动驾驶汽车中消失，在低等级的自动驾驶过程，始终要「以人为中心建设」。在几个的预期之下，人与相应技术共存将是未来十年长久的那种状态，从以人为中心建设到以机器为中心建设转变的经历经历过程，并表示都根本无法引发法律和道德上一系列框架的设定。

相应地，在自动驾驶技术领域怎样样判断安全员所处的位置一，进而再调整安全员体系；仍旧如此 在人与机器协作的技术领域里，怎样样思考以人类生活视角与机器视角分配工作后与责任，一种一种你们 要有去细化的主方向。

相应技术的目始终支持服务于人，也能人要为相应技术背锅，道理上根本无法讲得通，不要再真是又成相应技术加速发展的「牺牲者」。