自动驾驶需“多轮”驱动

    【科海观潮】

    近年来，自动驾驶在技术上取得了较大突破。许多自动驾驶的研发企业巨头都将2020年作为自动驾驶落地的重要年份。但是，自动驾驶面临的问题并不仅限于技术，相关法律和伦理问题更应引起重视。

    首先是自动驾驶汽车的上路问题。按照我国的道路交通安全法规定，机动车需要登记方可上道路行驶。目前只有一些部委和地方政府出台了一些政策性法规，在一定条件下允许在特定的道路上进行自动驾驶汽车的测试。

    以德国为例，为了某款最新自动驾驶汽车的上路，德国修改了现行法律，制定了总共20条的自动及网联化汽车交通伦理准则，专门针对自动驾驶模式下的汽车进行规制。中国目前相关的道路交通安全法还未作出修改。因此，未来道路交通安全法的修改是自动驾驶汽车上路的前提条件。

    另一个重要问题是交通事故后的刑事和民事责任的归属。从现行刑法条文来看，与自动驾驶最相关的是交通肇事罪。这一罪名主要表现形式即违反交通运输管理法规，因而发生重大事故，致人重伤、死亡或者使公私财产遭受重大损失。从目前的交通肇事罪的构成要件来看，无法将自动驾驶汽车的制造商或者软件供应商作为犯罪主体进行归责。

    一旦自动驾驶模式下的汽车出现故障发生严重的交通事故，直接运用现行刑法对驾驶员进行刑事制裁也是不合理的。毕竟，普通驾驶模式下的驾驶员责任和自动驾驶模式下驾驶员责任二者有较大的差别。也就是说，当自动驾驶汽车造成人员伤亡时，很难通过现行刑法进行归责。相关机构能否成为责任主体也是值得探究的。其中还有一个难点是，如果有人通过黑客技术进入自动驾驶的后台，并造成了多人以上人员的伤亡，那么这样的刑事责任由谁来承担？

    民法方面，交通事故产生的侵权法律关系由侵权责任法管理，即谁来承担赔偿责任的问题。如果是因为自动驾驶系统自身的质量问题，那赔偿责任可能更多由汽车生产商或软件提供商来承担。但是，其中还会出现举证责任划分的问题，即举证责任由谁来承担等一系列问题。

    自动驾驶在伦理方面的问题主要集中在“电车难题”、隐私和失业问题等方面。“电车难题”是哲学上讨论的一个经典命题。当一辆有轨电车在一个高速运行的轨道上运行时，突然发现前面有五个人在轨道上，而电车无法停车。此时司机还有另一个选择，就是将车开到旁边岔道，而岔道上只有一个人。司机需要在原先轨道和岔道中进行选择，是救五个人，还是救一个人？

    这个问题被移植到自动驾驶的讨论当中。这里的难点是，之前的哲学难题并没有一个获得绝大多数人认可的一个回答，因为它本身就是一个选择的困境。支持牺牲一个人的人，往往是出于一种功利主义或整体主义的考虑。而支持电车保持在原先道路上行进的人，则往往认为那一个在岔路上的被撞的人是非常无辜的局外人。

    人们好奇的是，未来在高速公路上行进的自动驾驶汽车可能会面临类似于电车的难题，那自动驾驶的系统将如何做出这个选择？这就要求自动驾驶背后的算法工程师必须明白这两个选择的伦理意义，否则他编出的算法很有可能是有瑕疵的。

    “电车难题”还涉及到算法在紧急状态下做决策的问题。德国的道路交通法在1b条中规定，驾驶者在使用自动驾驶时，仍然有警觉和随时准备接管的义务，并且在1b条第二款中对接管发生的情形进行了规定。与道路交通法修正案配套的“自动驾驶伦理准则”（自动化和互联化车辆交通伦理准则），在准则的17条和19条中，德国要求制造商和软件提供商不能在紧急的状态下要求人的介入。也就是说，自动驾驶汽车在紧急状态下，应当自主进入安全状态，而不需要人的介入。这一准则完全体现了自动驾驶以人为本的原则，要求服务的提供商从算法和技术领域解决这个难题，而不是强迫人在紧急的时候重新选择。对于应急能力相对较弱的老人或者其他弱势群体而言，紧急状态下要求他们重新接管汽车存在许多困难。

    隐私问题是所有智能设备将来都会面临的重大的伦理问题。未来的智能设备会采集人与人交流所产生的大量的数据，从而成为一个巨大的平台。那么如何保有这些数据，将是一个重大的伦理难题。目前强调的概念是V2X（Vehicle-to-everything），就是将汽车当作一个平台，与其他任何可能影响汽车的实体进行交互。汽车平台汇集大量的个人数据，那么如何保护这些数据并更好地为人们服务，而不是侵犯人们的利益，就会是人们最为关心的问题。

    自动驾驶的落地发展是一个系统工程。我们不能仅仅从技术上考虑，而应该从法律，伦理，甚至是人们的心理等多方面综合考虑。这样才能保障自动驾驶技术的发展可以提高人们的生活水平，改善人们的出行状况，而不是给人们制造更多的麻烦，造成更多更严峻的社会问题。

    （作者：高奇琦，系华东政法大学人工智能与大数据指数研究院院长）