当自动驾驶遭遇伦理争议

chengengfeng

[size=1.2em]何姗姗：如果我们愿意在交通拥堵时把驾驶任务交给系统，那么我们是否愿意把驾驶中出现的概率极低的两难局面也交付给系统？

人工智能热潮仍在延续，大众对人工智能的关注也顺势延伸到各个细分领域。其中，被广泛认为“最有可能被实现的人工智能”的自动驾驶技术引起了投资者们和业内人士的广泛兴趣。那么，中国的自动驾驶发展面临什么样的独特机遇或挑战？国外自动驾驶在立法、技术和市场方面对中国有什么样的启示？ FT中文网近期组织“聚焦自动驾驶”专题，编辑事宜，联系闫曼 man.yan@ftchinese.com

作为自动驾驶立法的先行者，德国除了发布《道路交通法》（第八修正案）为自动驾驶的量产和落地铺平道路以外，其运输和数字基础设施部下属道德委员会又发布了“自动化和互联化车辆交通伦理准则”（简称“自动驾驶伦理准则”），该规则对于各国立法者理解和监管自动驾驶这一新兴事物提供了良好的思路。

道德委员会在考量伦理准则时，主要集中考量了高度自动化汽车，即L3、L4和L5级别的自动驾驶汽车。道德委员会认为，自动驾驶预计将会在很大程度上降低发生交通事故的可能性。对于用户而言，自动驾驶技术会带来更多的便利，更少的身心压力，并节省更多的时间。就使用的公平性而言，在现有的条件下，移动能力相对差的弱势群体（如老人或者残疾人），可以更好地享受到新的移动出行方式所带来的成果，并且也能借此融合到社会生活中去。

与此同时，伴随着自动化驾驶系统的快速发展，未来可能会出现五个等级混合运营的局面，因此有关自动驾驶的责任和监管问题以及在现实交通场景中的矛盾冲突等问题都亟待解决。

自动驾驶二十项伦理准则概要

该伦理准则共有二十项，由面及点，涵盖了发展自动驾驶的方方面面，提出了立法和监管思路。本文概括如下：

[size=0.85em]天则横议
观念创造繁荣，观念改变世界[size=0.85em]王军：美国经济学家麦克洛斯基在新书中指出，让世界繁荣的力量既非资本积累也非制度法律，而是人们的观念或思想。

1.在宏观发展目标和价值取向上，利用自动驾驶技术增强道路安全优先于便利出行等其他好处，技术应遵循个人自治原则（the principle of personal autonomy），个人也应对自身享有的行动自由负责。

2.对个人的保护优先于所有其他功利主义考量，只有自动化驾驶系统可以比人工驾驶带来更低的损害，允许其发展才是公平合法的。

3.自动驾驶需要官方的批准和监督。政府部门应对用于公共领域的自动化驾驶系统的安全性进行监管，其指导原则是避免事故。尽管技术存在不可避免的残余风险，但只要自动驾驶相比于人类驾驶能降低更多的风险，那么就不应阻碍自动驾驶的引入。

4.在以个人为中心、促进自由发展的同时，关于技术的立法策略应该是在个人选择权最大化，以及保护他人的选择、安全之间获得平衡。

5.自动和互联技术应尽量避免事故的发生。对于两难局面（Dilemmatic Conflict），即必须在人的生命之间做出损害甚至牺牲一方以拯救其他当事方的选择的极端情况，发展自动化驾驶技术的策略应该是防止这样的危险情况出现。从车辆的设计和编程开始，就应考虑以一种具备防御性和可预期的方式驾驶，并全面应用和完善技术，从而给易受损害的道路使用者施加尽可能小的风险。

6.具备防撞功能的高度自动化系统能降低风险、增强安全性，这是社会和伦理层面需要鼓励的，但如果以法律命令要求必须使用和普及这种技术，则会引发“人受制于技术、人的主体地位受到贬损”等道德争议。

7.在用尽所有技术防御仍无法避免的危险中，对人类生命的保护在法律上高于一切。在技术可预测的范围内，系统应接受对财产、动物的损害以确保人的生命不受损害。

8.对于两难局面，即必须在人的生命之间做出损害甚至牺牲一方以拯救其他当事方的选择的极端情况，两难决策（Dilemmatic Decisions）不能被标准化和编程化。

9.在不可避免的危险中，禁止基于个人特征（年龄、性别、身体或心理构成）加以区别，禁止对被害人进行相互抵消。

10.在运用自动互联技术系统的情况中，事故责任主体从以前的个人承担，转变为在涵盖驾驶员、技术系统的制造商和运营商、基础设施建设负责者、政策制定者及法律判决做出者等多主体之间进行分配，相应的法律责任制度和法庭审判实践应及时做出有效调整。

11.使用自动化系统所造成的损害应遵从产品责任原则。由此，制造商和运营商有义务不断优化他们的系统，对已经交付给消费者的系统保持观察并在技术可行和合理的情况下予以改进和更新。

12.公众对于自动化技术的研发情况享有知情权，政府主管机关对于该技术研发和部署的指引应向公众开放并由专业独立的机构进行审查。

[size=0.85em]天则横议
观念创造繁荣，观念改变世界[size=0.85em]王军：美国经济学家麦克洛斯基在新书中指出，让世界繁荣的力量既非资本积累也非制度法律，而是人们的观念或思想。

13.未来要想在完全数字化的运输基础环境中，有效实现所有车辆完全互联并由中央控制，则应首先解决在伦理层面上饱受争议的问题，即如何排除对道路使用者的全面监视和对车辆的操纵。

14.自动化驾驶系统的网络安全应达到足以维持公众信心的程度。

15.关于自动互联车辆在驾驶中自主获得的数据，如进行商业使用，则应遵从于交通参与者对数据的自治和所有权。车辆保管者和使用者拥有驾驶过程中产生的数据的使用和传输的权利。

16.为了明确责任的承担主体，应确保能够通过记录和存储数据来分辨自动化驾驶系统和人类驾驶员，究竟是何者在控制车辆，以及人类驾驶员是否有能力随时接管自动化系统。对于责任的划分，应该形成一整套人机交接流程以及数据记录国际标准，以保证在国际化应用中的兼容性。

17.在人机交互层面，自动驾驶车辆技术应该防止车辆控制权突然移交给人类驾驶员的紧急情况，并且自动驾驶系统必须更多地适应人类的交流行为，而不是要求人类去增强他们自己对于系统的适应能力。

18.只有在保障安全的前提下，才会允许在车辆运行中使用自主学习系统。此外，收集并建立场景目录，并将其传至中立机构，对于发展普适性的标准是有好处的。

19.紧急情况中，车辆必须能够在无人工辅助条件下，自主地进入到一个安全状态。

20.对自动驾驶系统的合理使用应该被纳入到人们的一般数字化教育中，对自动化驾驶系统的合理操控应该在指导驾驶和测试期间以合适的方式进行教授。

自动驾驶中的“两难局面”

而现实交通场景中的矛盾，其中之一就是自动驾驶中的“两难局面”。

两难局面的特点是，自动驾驶车辆必须决定应该执行哪一种“罪恶”。比如道德委员会讨论的下文列出的例子：

一辆汽车的驾驶员正在山坡上行驶。自动驾驶汽车探测到有孩子在路上玩耍。该手动驾驶汽车的驾驶员现在可以选择用自己的生命开车越过悬崖，或者冒着孩子死亡的风险朝正在道路环境中玩耍的孩子驶去。在该汽车是一辆高度自动化驾驶汽车的场景下，程序员或者该自主学习机器将必须决定在这种情况下应该做什么。

道德委员会提到，学者们投入很多精力去讨论对于“进退两难的冲突情况”的解决方案。在讨论此问题之前，首先，一个基本的问题是我们愿意将自己多少的选择自由权交付给程序员或是自主学习系统？换言之，如果我们愿意在交通拥堵时把驾驶任务交给系统，那么我们是否愿意把驾驶中出现的概率极低的两难局面也交付给系统？对于两难局面的冲突决策，技术有可能提前全面地预测到吗？

对于上述例子，与程序员作出决策相关的问题是，他可能作出了与人们基本良知相一致的“正确的”道德决策，但该决策仍旧属于一个“外部决策”。这个外部决策可能不会直观地捕捉到一个具体的情景，比如一个直观的情感表达情景（具体而言，比如驾驶员其实是孩子的父亲），这一关键的具体情境可能会左右驾驶员的决策。

如果立法者要求在两难的危机状况中，应该由程序员或机器做出正确的道德决策，那等于是衍生出了一个结论：即，人们在面临生死抉择的情况中，将不再是自治的（由自己决定），而是他治的（由厂商决定）。道德委员会认为这个结论存在很多问题：一方面，立法者以一种非常家长式的方式，要求程序员规定一个“正确行为”的道德程序（在某种意义上是编程所规定的）；另一方面，这与人道主义的价值体系是相违背的。 道德委员会认为，国家不应该制定集体义务施加给个人，要求他们为了其他人而牺牲自己，即便这是唯一可以拯救他人的方法。

因此，对于自动驾驶，其编程者不应在人的生命中进行挑选，也不应该在受害者中进行抵消，但自动驾驶应秉持损害最小化原则。所以，两难局面不应被明确地标准化，也不能被编程。自动驾驶技术的发展旨在避免一切事故，然而，它们不能被标准化到对事故的影响进行复杂或直观的评估，进而取代或预测一个负责任的、具有道德能力、可以做出正确判断的驾驶员的决定。当然，如果一个人在紧急情况下杀了一个人以挽救一个或更多的人的生命，那么这个杀人者的行为将是非法的，但他并不一定有罪或必然接受处罚。因此，两难局面不应被轻易地转化为抽象或一般的事前评估，也不能转化为相应的编程活动。

对于应对两难局面，发展自动化驾驶技术的策略应该是防止这样的危险情况出现。从车辆的设计和编程开始，就应考虑以一种具备防御性和可预期的方式驾驶，从而给易受损害的交通参与者施加最小的风险。因此，自动驾驶应重在完善全面的技术应用——例如，通过可控交通环境的应用、车辆传感器、刹车性能、危险情况中给受威胁者发出信号提示、通过“智能”道路基础设施来预防危险，从而最大程度地增强道路安全性，避免两难局面的发生。比如上述的例子中，通过信号提示，车辆可以提前预知前方的危险情况，又或者前方的弱势群体（比如小孩）可以被提前告知有车辆到来等，从而最大程度的避免两难局面的出现。

对于两难局面，道德委员会也指明，在讨论时并未能达成一致意见，也意味着这个问题有待进一步深入的研究。

[size=0.85em]天则横议
观念创造繁荣，观念改变世界[size=0.85em]王军：美国经济学家麦克洛斯基在新书中指出，让世界繁荣的力量既非资本积累也非制度法律，而是人们的观念或思想。

自动驾驶参与方范围在不断扩大

正如该伦理准则所言，随着参与驾驶任务要素的增加（尤其是对于L5级别以下的自动化车辆），以及交通环境互联化程度的加深，自动驾驶车辆的参与方的范围，也从驾驶员扩大到车辆制造商、零部件提供商、系统开发商和制造商、修理站、基础设施公共部门、通讯网络运营者、信息服务提供者、地图服务提供者、认证部门等。总体而言，本文归纳总结出伦理准则对于该等自动驾驶参与方应共同遵守的相关义务：1、在自动驾驶系统设计方面，应以最大化安全，最小化风险直至完全避免风险为最基本的追求。为此，自动驾驶系统应旨在减少危急情况出现的可能性和频率，并能在不可避免的危险中可以自主地进入到安全状态中。

2、在系统维护和更新方面，该伦理准则强调系统的制造商和运营商等对已售出的系统应保持持续观察，并在技术可行和合理情况下对其进行改进和更新。

3、在数据记录和存储标准方面，应能达到可以辨别于何时、何者（人或系统）正在对车辆实施控制，且何时车辆应当由何者来实施控制的程度。例如，在驾驶任务应由自动化系统移交给驾驶员时，系统是否做出了足够的提示以引起驾驶员的注意。或者，驾驶员在重新接管车辆时是否还有合理的时间去完成任务，例如是否由于系统的判断错误而导致驾驶员重新接管车辆时所造成的损害比系统自行处理时还大。

4、在网络安全方面，开发商和制造商必须在最大程度上确保自动化系统及车辆控制不会遭到不法网络攻击，尤其是在车辆互联、中央决策的过程中。

5、在广告宣传和消费者教育上，对自动化系统的功能和特性应做客观宣传，并且应在指导驾驶和测试车辆过程中以合适的方式教授消费者使用方法和注意事项。

chengengfeng

chengengfeng

chengengfeng

每一个新事物的出现，都是有很多问题的

chengengfeng