无人驾驶的问题:核心代码将由谁来控制?

许多汽车商都在开发无人驾驶汽车,在不久的未来,无人驾驶汽车必将进入我们的生活。在一些人兴奋地期待之时,另一些人却表示担忧。难道我们真的愿意将自己的生命交给几行代码吗?这些代码到底由谁来控制?英国《卫报》最近刊文对此问题进行探讨,下面是文章节选:

绕不开的有轨电子难题

1967年时,哲学家菲利帕。福特(Philippa Foot)曾提出一个关于有轨电子的伦理学难题:

一个疯子将5个无辜的人绑在轨道上。一辆失控的电车迎面开来,即将碾过这5个人,幸好可以拉下火车的控制杆,将它转向另一个方向。问题在于,在另一条轨道上也有1个无辜的人。拉下控制杆的确可以救下5个人,但会牺牲另外那1个人。你应该怎么做才符合伦理?

这个难题后来还演化出许多版本,比如让你选择撞死5无辜的人,或者将一个胖子推下去阻止电车前进;又比如这个胖子刚好就是将5个无辜者绑在电轨上的人,等等。

同样的,我们可以将类似的争论引入到无人驾驶汽车的讨论中来。讨论的问题可以这样概括:你的无人驾驶汽车即将与一辆巴士相撞,车上全是学生,车子意识到要么牺牲你去挽救一车的学生,要么救你而放弃那些学生,在设计程序时我们应该怎么选择呢?

借鉴iPhone模式能保证无人驾驶汽车安全吗?

我们可以换一个方式来看待这个问题:如果你想设计一辆汽车,让它在特定环境下故意谋杀司机,你如何保证司机不会修改程序让他的汽车无法故意谋杀人?

其实我们已经有了一个明显的答案,那就是借鉴iPhone模式。我们可以设计一辆汽车,只允许它安装运输部(或者制造商)提供的软件,然后制定严格的法规,谁修改软件就处以重罪。这就是目前iPhone王国推行的法规,游戏主机和许多其它设备也都这样做,它们纷纷配上数字锁,即内部人说的“DRM”(数字版权管理)。《数字千年版权法案》(Digital Millennium Copyright Act)等法律禁止人们移除数字锁,防止受版权保护的着作被盗版,如果谁胆敢发布信息帮助他人解除数字锁,同样也逃不过法律的制裁。

自动驾驶汽车程序必须对公路上高速移动的目标负责,尤其是那些脆弱的人类,这似乎是理所当然的,但它会带来一个很大的问题:在现实中根本行不通。

每个被锁定的设备都可以轻易“越狱”.早期的数字锁法规之所以制定,最主要目的并不是为了阻止人们重新配置设备,而是确保没有企业和设备帮助他们破解。给手机解锁并不是什么难事,你可以从网上轻易下载软件解锁手机,也可以让非法破解手机的企业帮你代劳。

没有制造商的允许无人可以重置自动驾驶汽车,如果说这就是确保无人驾驶汽车安全的前提条件,那么无人驾驶汽车将永远不会安全,因为总会有人能破解软件的。

不要忘了是软件就有漏洞!

即使我们可以锁定汽车的设置,它也同样不安全。数字锁会在电脑程序中占据一个特定区域,就连电脑所有者也无法进入。要让数字锁管用,它的相关文件必须连所有者都看不到。当我们命令操作系统列出数字锁所在目录的文件时,系统要掩盖或者忽略数字锁文件,以防止用户删除或者替换它。当我们命令操作系统列出所有运程程序的列表时,数字锁程序也应该被忽略,以防止用户终止程序。

不要忘了,所有的电脑都有漏洞。就算是那些使用多年的软件,它的源代码已经被无数程序员检查过,也存在微小的漏洞。汽车体格庞大,行驶速度快,它的破坏力很大,可以杀死司机及周围的人。如果软件不够安全,攻击者就可以劫持刹车、加速器或转向装置,最终导致悲剧发生。相反,如果我们设计出用户无法修改的无人驾驶汽车,将汽车使用者修改程序视为自私(比如在碰到有轨电车难题时只求自保)的行为,情况会更糟糕。

无论无人驾驶汽车有什么问题,当它将自己的乘客当成敌人时,问题会变得更严重。

执法者留下的漏洞被恐怖分子利用

在连网设备的世界里已经出现“合法拦截”,设备常常留下一些后门供警察监管,这些后门又往往成为安全威胁的根源。尽管如此,执法者仍然希望留下更多的后门。以后的自驾汽车也会留下后门,警察可以向你的车发信号,强迫它停在路边。漏洞会带来更多问题,骗子和杀人犯可以在车中内置相似功能,乘客将成为他们的“礼物”,恐怖分子也可以利用这种功能进行攻击。

问题还不只这些。城市规划者之所以关注自动驾驶汽车,主要是因为它有可能降低路上的汽车数量,将私家车转为公用分享的车,被Uber等企业控制。我们可以乘车,但车不是我们自己的,我们无法修改,上面谈的问题会变得更复杂。Uber等企业会指定第三方来修改。它们也可能会允许用户作出一些修改,比如增加用户控制的紧急刹车功能,它可能会委托给保险商管理,不用想也知道,保险商肯定不希望这样的功能出现。

让我们忘了电车吧,最终无人驾驶汽车会改变劳工关系,增加监听能力,重新分配财富!

下一篇:中国概念股周四多数上涨 迅雷涨10%

(免责声明:本网站内容主要来自原创、合作媒体供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )