特斯拉的自动驾驶系统犯了低级错误,后果是导致了地球上第一例自动驾驶死亡事故的发生。
此事迟早会发生——没有完美的无人驾驶,是的,世界上哪里会有完美的技术。悲剧发生在五月,丝毫无碍“无人驾驶”在一个月后入选世界经济论坛评出的本年度“十大新兴技术”。人们心里思忖的是,还有改进空间嘛,今天的漏洞在明天的大范围推广之前当可补上。然而,这压根不是无人驾驶的最大难题。
美国《科学》杂志前几天发表了一份法美两国学者合作完成的研究报告,通过为期小半年的六次网上调查发现了一个耐人寻味的悖论:大多数人赞同无人驾驶系统的编程应遵循效益最大化的原则,然而,正是同一人群,最后是不会购买甚至乘坐这辆“对大多数人好”的无人驾驶汽车的。
假设,眼看一起交通事故不可避免,你会挽救路人还是车上的乘客呢?1:1时,75%被调查者把票投给了乘客;当路人数量增至5:1时,路人和乘客的得票一半一半;当路人多达10人而乘客还是只有1人时,支持救乘客的仅剩三成了。研究者称,这是典型的功利主义模式。超过70%的被调查者,支持给无人驾驶汽车设定程序以保护“人数更多的一方”,但只有30%的人愿意购买这样的车——也难怪,想想此车万一遭遇事故,很可能就牺牲了车上的自己呢。
同样的题目,若是出给汽车制造商,同样遵循功利主义模式,显然会优先考虑车上的人。问题又来了,如此罔顾路人安全的汽车制造商,难道不会被指责的口水淹死吗?
这般窘境在伦理学实验中早已有之,被称作“电车难题”。五个无辜的人被一个疯子绑在轨道上,一辆失控的电车朝着他们疾驶而来,此时你可以拉下操纵杆,让电车驶向另一个方向,但那条轨道上也绑着一个无辜的人,该怎么选?
我选不出来。这道让当年的电车左右为难的选择题,如今的无人驾驶汽车也无从选择。从某种意义上说,此时真正握着方向盘的,不是技术,而是人心。
我喜欢另一个“无人驾驶”的故事。没有乘客也没有驾驶员的探空气球,在南极上空发现臭氧层空洞小多了,意思是人类社会禁止排放氯氟烃的努力见效了。还是人心,不是吗?