安全性是一個(gè)很難回答的社會(huì)問(wèn)題

在今天的美國(guó)，由人類(lèi)控制的駕駛已經(jīng)是一項(xiàng)相對(duì)安全的活動(dòng)，盡管顯然還有很大的改進(jìn)空間——2017年有3．7萬(wàn)人死于機(jī)動(dòng)車(chē)碰撞，道路事故仍然是死亡的主要原因。因此，如果我們要讓自動(dòng)駕駛汽車(chē)車(chē)隊(duì)上路，我們希望它們更安全。這并不僅僅意味著自動(dòng)駕駛技術(shù)提高了，其安全性方面也取得了進(jìn)步，因?yàn)?span id="zziduuh" class='hrefStyle'>汽車(chē)更重了，有了安全氣囊和其他安全設(shè)備，剎車(chē)更好了，翻車(chē)的頻率也更低了。不過(guò)，當(dāng)談到我們究竟希望無(wú)人駕駛汽車(chē)達(dá)到何種安全程度的問(wèn)題時(shí)，這仍然是一個(gè)懸而未決的問(wèn)題。

“在我們確信一臺(tái)機(jī)器至少和人類(lèi)一樣安全之前，我們應(yīng)該行駛多少英里呢？”密歇根大學(xué)MCity自動(dòng)駕駛汽車(chē)測(cè)試實(shí)驗(yàn)室主任格雷格·麥圭爾（Greg McGuire）在最近的一次采訪中表示�！斑�是自動(dòng)駕駛汽車(chē)需要比人類(lèi)更安全？它需要達(dá)到人類(lèi)10倍的安全性嗎？我們的閾值是什么？”

蘭德公司2017年的一項(xiàng)研究發(fā)現(xiàn)，越早部署高度自動(dòng)化的汽車(chē)，最終拯救的生命就越多，即使這些汽車(chē)只比人類(lèi)駕駛的汽車(chē)安全一點(diǎn)點(diǎn)。研究人員發(fā)現(xiàn)，從長(zhǎng)遠(yuǎn)來(lái)看，部署比普通人類(lèi)駕駛員安全性高出10％的自動(dòng)駕駛汽車(chē)，比等到安全系數(shù)提高75％或90％后再部署，可以挽救更多的生命。

換句話(huà)說(shuō)，在我們等待自動(dòng)駕駛汽車(chē)變得完美時(shí)，可能會(huì)有更多的人喪生。

自動(dòng)駕駛汽車(chē)除了安全性之外，還有一個(gè)難題，那就是當(dāng)出現(xiàn)問(wèn)題時(shí)該由誰(shuí)負(fù)責(zé)。當(dāng)一名人類(lèi)駕駛員造成事故或死亡時(shí)，人們往往毫不懷疑誰(shuí)應(yīng)該對(duì)此負(fù)責(zé)。但如果一輛自動(dòng)駕駛汽車(chē)發(fā)生事故，事情就沒(méi)那么簡(jiǎn)單了。

斯珀林將這一情景與另一種交通方式——飛機(jī)進(jìn)行了比較�！叭绻�飛機(jī)上沒(méi)有正確的軟件和技術(shù)，那么誰(shuí)來(lái)負(fù)責(zé)呢？是軟件編碼嗎？是硬件嗎？還是擁有這架飛機(jī)的公司？”他說(shuō)。

2018年，在一輛Uber測(cè)試車(chē)撞死一名女子后，我們已經(jīng)看到了無(wú)人駕駛汽車(chē)的責(zé)任界定問(wèn)題。這起事件引起了媒體的一片嘩然，最終Uber與受害者家屬達(dá)成了和解。2018年，一名男子在駕駛特斯拉時(shí)死亡，他的家人今年早些時(shí)候起訴了這家汽車(chē)制造商，稱(chēng)其自動(dòng)駕駛功能有問(wèn)題。美國(guó)國(guó)家運(yùn)輸安全委員會(huì)（National Transportation Safety Board）在一份初步報(bào)告中表示，特斯拉的自動(dòng)駕駛系統(tǒng)在今年3月佛羅里達(dá)州的一起致命撞車(chē)事故中處于活躍狀態(tài)。然而，在2016年特斯拉撞車(chē)事故中喪生的一名男子的家人表示，事故并不怪他，也不應(yīng)該由特斯拉負(fù)責(zé)。

還有一個(gè)關(guān)于自動(dòng)駕駛汽車(chē)的爭(zhēng)論引發(fā)關(guān)注，焦點(diǎn)在于如果自動(dòng)駕駛汽車(chē)面對(duì)一個(gè)艱難的情況，車(chē)輛應(yīng)該做出怎樣的選擇呢？例如，如果事故是不可避免的，自動(dòng)駕駛汽車(chē)應(yīng)該轉(zhuǎn)向行人密集的人行道上，還是撞上一根桿子，這種情況會(huì)對(duì)車(chē)上的乘客造成更大的危險(xiǎn)。

麻省理工學(xué)院媒體實(shí)驗(yàn)室（MIT Media Lab）發(fā)起了一個(gè)名為“道德機(jī)器”（Moral Machine）的項(xiàng)目，試圖利用數(shù)據(jù)來(lái)弄清人們是如何看待這些類(lèi)型的權(quán)衡的。該實(shí)驗(yàn)室去年發(fā)表了一份關(guān)于其研究結(jié)果的研究報(bào)告�！霸趥�害已經(jīng)降到最低，但可以在不同人群之間轉(zhuǎn)移的情況下，我們希望汽車(chē)如何做到這一點(diǎn)呢？”研究人員之一埃德蒙德·阿瓦德（Edmond Awad）說(shuō)。

但正如Vox網(wǎng)站的凱爾西·派珀（Kelsey Piper）當(dāng)時(shí)所解釋的那樣，這些道德權(quán)衡問(wèn)題雖然有趣，但并沒(méi)有真正觸及自動(dòng)駕駛汽車(chē)安全性辯論的核心：

整個(gè)自動(dòng)駕駛汽車(chē)的設(shè)置基本上只是一種新穎的方式，目的是將人們的注意力吸引到一系列老問(wèn)題上。麻省理工學(xué)院媒體實(shí)驗(yàn)室讓受訪者回答的只是一系列經(jīng)典電車(chē)問(wèn)題的變體。經(jīng)典電車(chē)問(wèn)題是道德哲學(xué)中構(gòu)建的一個(gè)假設(shè)，目的是讓人們思考如何權(quán)衡道德。經(jīng)典電車(chē)問(wèn)題問(wèn)的是，你是否會(huì)拉動(dòng)一根杠桿，讓電車(chē)駛向偏離軌道的五個(gè)人，避免撞死另外一人。問(wèn)題的變體探索了在什么樣的情況下，我們?cè)敢鉅奚�一些人�?lái)?yè)Q取拯救其他人。

當(dāng)人們被迫在糟糕的情況下做出兩難選擇時(shí)，這是一種了解他們?nèi)绾嗡伎嫉挠腥し绞�。有趣的是文化差異的存在。但是，盡管收集到的數(shù)據(jù)描述了我們?nèi)绾巫龀龅赖逻x擇，卻沒(méi)有回答我們應(yīng)該如何做的問(wèn)題。目前還不清楚，這與自動(dòng)駕駛汽車(chē)的關(guān)系，是否比我們每天考慮的其他政策更密切——所有這些政策都涉及可能導(dǎo)致生命損失的權(quán)衡。

這項(xiàng)研究發(fā)表在《自然》雜志上時(shí)，奧迪公開(kāi)表示，研究結(jié)果可能有助于圍繞自動(dòng)駕駛汽車(chē)的決策展開(kāi)討論，但包括Waymo、Uber和豐田在內(nèi)的其他公司則保持沉默。

衡量安全性將非常困難

談到自動(dòng)駕駛汽車(chē)的安全性，更難回答的問(wèn)題可能是如何測(cè)試它的安全性。

2017年，美國(guó)每行駛1億英里就有1．16人死亡。這意味著自動(dòng)駕駛汽車(chē)必須行駛數(shù)億英里，甚至數(shù)千億英里，才能證明其可靠性。去年，Waymo舉行了慶�；顒�(dòng)，慶祝自2009年推出以來(lái)，其汽車(chē)在公共道路上的行駛里程達(dá)到了1000萬(wàn)英里。

為自動(dòng)駕駛汽車(chē)積累數(shù)十億英里的試駕里程幾乎是不可能的。這樣的項(xiàng)目將是耗費(fèi)數(shù)目非常大的資金和時(shí)間——據(jù)估計(jì)，需要幾十年甚至幾百年的時(shí)間。除此之外，每次技術(shù)發(fā)生變化時(shí)，即使只是改了幾行代碼，但是測(cè)試過(guò)程也可能不得不重新開(kāi)始。

加州大學(xué)伯克利分校退休研究工程師史蒂文·施拉多弗（Steven Shladover）說(shuō)：“沒(méi)人能負(fù)擔(dān)得起這些測(cè)試。這就是為什么我們必須開(kāi)始尋找其他途徑來(lái)達(dá)到這種安全保障水平�！�

2018年，蘭德公司提出了一個(gè)衡量自動(dòng)駕駛汽車(chē)安全性的框架，包括通過(guò)模擬、封閉課程和有或沒(méi)有安全駕駛員的公共道路進(jìn)行測(cè)試。測(cè)試將發(fā)生在不同的階段，可以在技術(shù)開(kāi)發(fā)時(shí)，可以在演示時(shí)，也可以在部署之后。

正如蘭德公司的研究人員布盧門(mén)撒爾所解釋的那樣，美國(guó)國(guó)家公路交通安全管理局的碰撞測(cè)試側(cè)重于車(chē)輛的抗沖擊能力和乘員保護(hù)，但“有必要測(cè)試使用體現(xiàn)自動(dòng)化的軟件的結(jié)果�！焙芏喙�司在做這種測(cè)試，但還沒(méi)有廣泛的、一致同意的框架。

密歇根大學(xué)的MCity今年1月發(fā)布了一份白皮書(shū)，列出了它認(rèn)為可行的安全性測(cè)試參數(shù)。它提出了一個(gè)“ABC”測(cè)試概念，即加速評(píng)估（專(zhuān)注于最危險(xiǎn)的駕駛情況）、行為能力（與重大機(jī)動(dòng)車(chē)碰撞相對(duì)應(yīng)的場(chǎng)景）和轉(zhuǎn)角案例（測(cè)試性能和技術(shù)極限的情況）。

在道路上測(cè)試完全無(wú)人駕駛汽車(chē)是最后一步，而不應(yīng)當(dāng)是第一步。來(lái)自MCity的麥圭爾說(shuō)：“當(dāng)真實(shí)的人類(lèi)在自動(dòng)駕駛汽車(chē)上的時(shí)候，自動(dòng)駕駛汽車(chē)需要有信心，有一定的安全空間，不會(huì)危及人類(lèi)安全�！�

即便如此，在哪里測(cè)試汽車(chē)仍會(huì)產(chǎn)生影響。許多公司在亞利桑那州等地測(cè)試汽車(chē)的原因是，這些地方相對(duì)比較平坦和干燥。在更多樣的地形或更惡劣的天氣條件下，汽車(chē)測(cè)試和其他自動(dòng)駕駛能力變得更加復(fù)雜，更加不可靠。

2018年11月，Waymo首席執(zhí)行官約翰·克拉夫西克（John Krafcik）表示，他甚至認(rèn)為自動(dòng)駕駛技術(shù)不可能在沒(méi)有人類(lèi)互動(dòng)的情況下在所有可能的條件下運(yùn)行。他還表示，他認(rèn)為自動(dòng)駕駛汽車(chē)普及還需要幾十年時(shí)間。

布盧門(mén)撒爾說(shuō)：“如果你注意聽(tīng)各個(gè)公司的公開(kāi)聲明，你會(huì)發(fā)現(xiàn)，隨著時(shí)間的推移，大多數(shù)公司在遇到現(xiàn)實(shí)問(wèn)題時(shí)都變得更加謙虛、謹(jǐn)慎了。”