一張貼紙 或可迷惑自動駕駛系統(tǒng)
2019-05-13 09:04
來源：
中國科技網(wǎng)
自動駕駛的安全性一直以來受到各方的關(guān)注。近日由北京航空航天大學、悉尼大學和劍橋大學的一項新研究表明，一張紙便可以“迷惑”AI自動駕駛系統(tǒng)，將一張用打印機打印出來的涂鴉貼畫貼在路牌上就可以導致AI自動駕駛系統(tǒng)分類錯誤。目前該論文已在全球人工智能頂級會議AAAI 2019上發(fā)表。
在實驗中，研究人員將生成的涂鴉貼畫貼在北航校園中標為“限速20km／h”的真實路牌上后，AI自動駕駛系統(tǒng)完全被誤分類，將其識別為“No Entry”（禁行）。該涂鴉貼畫在論文中被稱為“對抗補丁”，正是這塊補丁“欺騙”了AI自動駕駛系統(tǒng)，讓系統(tǒng)將該路牌誤分類。
經(jīng)實驗證實，用該方法生成的對抗補丁具有穩(wěn)定的攻擊效果，將其貼在路牌上后，不會影響人類對于路牌語義信息的認知，且由于場景語義相關(guān)性人類也不會感覺到違和。但是，該對抗補丁對于AI自動駕駛系統(tǒng)則是毀滅性的。例如，這種攻擊可能被惡意地用來攻擊自動駕駛系統(tǒng)，入侵者只要將一小片貼畫貼在路牌上，當自動駕駛汽車駛過時就可能會造成系統(tǒng)的致命錯誤，導致車禍產(chǎn)生。
分享
聲明：
本文系OFweek根據(jù)授權(quán)轉(zhuǎn)載自其它媒體或授權(quán)刊載，目的在于信息傳遞，并不代表本站贊同其觀點和對其真實性負責，如有新聞稿件和圖片作品的內(nèi)容、版權(quán)以及其它問題的，請聯(lián)系我們。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
-
10 中東AI迷霧里的中美棋局
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」？
- 2 大廠紛紛入局，百度、阿里、字節(jié)搶奪Agent話語權(quán)
- 3 一文看懂視覺語言動作模型（VLA）及其應(yīng)用
- 4 深度報告｜中國AI產(chǎn)業(yè)正在崛起成全球力量，市場潛力和關(guān)鍵挑戰(zhàn)有哪些？
- 5 上海跑出80億超級獨角獸：獲上市公司戰(zhàn)投，干人形機器人
- 6 國家數(shù)據(jù)局局長劉烈宏調(diào)研格創(chuàng)東智
- 7 下一代入口之戰(zhàn)：大廠為何紛紛押注智能體？
- 8 百億AI芯片訂單，瘋狂傾銷中東？
- 9 Robotaxi新消息密集釋放，量產(chǎn)元年誰在領(lǐng)跑？
- 10 格斗大賽出圈！人形機器人致命短板曝光：頭腦過于簡單
