一塊普通的“路面污漬”竟能迷惑智能的自動(dòng)駕駛汽車,在1秒內(nèi)就導(dǎo)致車輛失控偏離行駛車道。一項(xiàng)國際研究新近證實(shí)了這一可能,再度引發(fā)公眾對自動(dòng)駕駛汽車安全性的關(guān)注。
自動(dòng)駕駛技術(shù)有時(shí)候并沒有人們想象的那樣聰明,一些人類可輕易識(shí)別的“小把戲”卻能完全迷惑自動(dòng)駕駛汽車。比如,在交通標(biāo)志上貼一些惡意貼紙或涂鴉,就有可能導(dǎo)致自動(dòng)駕駛汽車錯(cuò)誤地將停車標(biāo)志識(shí)別為限速標(biāo)志。
美國加利福尼亞大學(xué)歐文分校、美國東北大學(xué)等機(jī)構(gòu)的研究人員最新研究發(fā)現(xiàn),一些偽裝為路面污漬圖案的攻擊補(bǔ)丁可誤導(dǎo)自動(dòng)駕駛汽車上的自動(dòng)車道居中輔助系統(tǒng)(ALC),導(dǎo)致車輛偏離其行駛車道,造成嚴(yán)重交通危害。該研究成果已于北京時(shí)間12日在線發(fā)表于第30屆“USENIX Security”會(huì)議上。這是信息安全領(lǐng)域四大頂級(jí)學(xué)術(shù)會(huì)議之一。
隨著自動(dòng)駕駛技術(shù)的普及,目前很多L2級(jí)別(部分自動(dòng)駕駛)的乘用車都配備了ALC系統(tǒng),可自動(dòng)控制車輛方向盤使其保持在車道中心。該系統(tǒng)通常利用深度神經(jīng)網(wǎng)絡(luò)的車道檢測來實(shí)現(xiàn)車道居中自動(dòng)輔助。研究人員通過安全分析發(fā)現(xiàn),深度神經(jīng)網(wǎng)絡(luò)模型層面存在漏洞,容易受到物理世界的“對抗性攻擊”。
路面污漬在現(xiàn)實(shí)生活中很普遍,較難引起人類駕駛員注意。研究人員用對抗性神經(jīng)網(wǎng)絡(luò)生成誤導(dǎo)性的圖案,并將其偽裝為路面污漬,使攻擊更加隱蔽,讓這種“臟路補(bǔ)丁”誤導(dǎo)ALC系統(tǒng)。
研究人員分別在微縮場景、自動(dòng)駕駛模擬器和現(xiàn)實(shí)中的真車上測試了“臟路補(bǔ)丁”攻擊,均成功“帶偏”了ALC系統(tǒng),造成車輛碰撞事故。在對一款配備了ALC系統(tǒng)的真車進(jìn)行效果驗(yàn)證時(shí),測試車輛在10次試驗(yàn)中的碰撞率達(dá)到100%。
論文通訊作者、加州大學(xué)歐文分校助理教授陳齊說,ALC系統(tǒng)如今被廣泛應(yīng)用于各種車型中。盡管方便,但該系統(tǒng)需要具有較高安全性:當(dāng)系統(tǒng)做出錯(cuò)誤的轉(zhuǎn)向決策時(shí),人類駕駛員可能沒有足夠的反應(yīng)時(shí)間來防止即將發(fā)生的安全隱患。
該論文的共同第一作者,加州大學(xué)歐文分校博士生佐藤貴海和沈駿杰建議,為防御此類攻擊,一些汽車廠商應(yīng)把路面污漬和“臟路補(bǔ)丁”加入ALC系統(tǒng)使用手冊里現(xiàn)階段不可處理的場景列表中,幫助用戶提前認(rèn)識(shí)到這種風(fēng)險(xiǎn)的存在。有條件的廠商還可采取集成激光雷達(dá)和攝像頭等的多傳感器融合方案,或采用車道線檢測與地圖數(shù)據(jù)融合的方式防御攻擊。
(新媒體責(zé)編:xmtqyd)
聲明:
1、凡本網(wǎng)注明“人民交通雜志”/人民交通網(wǎng),所有自采新聞(含圖片),如需授權(quán)轉(zhuǎn)載應(yīng)在授權(quán)范圍內(nèi)使用,并注明來源。
2、部分內(nèi)容轉(zhuǎn)自其他媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé)。
3、如因作品內(nèi)容、版權(quán)和其他問題需要同本網(wǎng)聯(lián)系的,請?jiān)?0日內(nèi)進(jìn)行。電話:010-67683008
人民交通24小時(shí)值班手機(jī):17801261553 商務(wù)合作:010-67683008轉(zhuǎn)602 E-mail:zzs@rmjtzz.com
Copyright 人民交通雜志 All Rights Reserved 版權(quán)所有 復(fù)制必究 百度統(tǒng)計(jì) 地址:北京市豐臺(tái)區(qū)南三環(huán)東路6號(hào)A座四層
增值電信業(yè)務(wù)經(jīng)營許可證號(hào):京B2-20201704 本刊法律顧問:北京京師(蘭州)律師事務(wù)所 李大偉
京公網(wǎng)安備 11010602130064號(hào) 京ICP備18014261號(hào)-2 廣播電視節(jié)目制作經(jīng)營許可證:(京)字第16597號(hào)