News
新聞專欄
McAfee 研究人員修改速限標誌,輕鬆騙過特斯拉自駕車從 35mph 加速到 85mph 2020-02-20

作者 Evan 發布日期 2020 02 20 1502 分類 AI 人工智慧 , 交通運輸 , 汽車科技




研究人員在速限號誌貼上一截電工絕緣膠帶,結果成功騙過特斯拉(Tesla)的電動車加速,突顯出目前自駕系統面臨的

各種潛在漏洞。 McAfee 的研究報告顯示,技術人員用膠帶橫貼在時速「35」英里限速標誌「3」數字正中間,

這小小改變導致車輛誤判速限為「85」英里,隨即車子的巡航定速控制系統(Cruise Control System)自動加速。


(圖片來源:影片截圖)


McAfee 表示,這個問題對開車的人來說不是嚴重的風險,實驗時沒有人受傷,駕車的研究人員也安全減速。

但這長達 18 個月、去年結束的研究結果表明,自動駕駛的機器學習系統有弱點。

McAfee 先進威脅研究(Advanced Threat Research)實驗室負責人 Steve Povolny 指出,

其他研究也顯示實體世界的一些改變如何輕易混淆系統。


McAfee 表示:這類測試在真實世界並不常見

這些測試包括 2016 款的 Model S Model X,使用 Mobileye 公司(現為 Intel 旗下事業單位)提供的攝影機系統。

雖然特斯拉 2016 年停止使用 Mobileye 系統,但仍有幾家汽車製造商繼續使用。


Mobileye 最新的攝影機系統測試並沒有發現同樣漏洞,且特斯拉最新車款顯然不再依賴只辨識交通號誌,McAfee 指出。

對此研究有何評論的詢問郵件,特斯拉沒有任何回應。


「製造商和供應商已獲悉這問題,並進一步了解與改善,」Povolny 表示:「但這並不能改變自動駕駛業有許多盲點的事實。」

可肯定的是,還好對真實世界的威脅有限。首先,自駕車仍處於開發階段,大多數都會在安全駕駛員可隨時接手方向盤的情況下測試。

雖然現在很多車皆已支援先進駕駛輔助系統(ADAS),但仍然需要駕駛注意路況。


McAfee 研究人員只能透過複製一連串特定事件來欺騙系統,包括開啟駕駛輔助功能,並遇到遭篡改的速限標誌等事件才能辦到。

製造商還將地圖測繪技術整合到回應適當速限的系統。「直到我們擁有真正的自駕車前,都不太可能在真實世界看到上述狀況,

或攻擊者試圖利用這些漏洞,到了那個時候,我們希望這類缺陷也盡早解決。」Povolny 表示。


Mobileye 聲明表示,即使是駕駛也會被這類修改愚弄,這次研究人員測試的系統,一開始是專為輔助駕駛設計的,

而不是支援自動駕駛。


除感測外,自駕車需藉助各種技術提升安全性與容錯能力


「自駕車技術不僅依賴感測,也會獲得像是群眾外包地圖(Crowd Sourced Mapping)等其他各種技術和資料支援,

以確保從攝影機感測器接收資訊的可靠性,並提供更強固的備援及安全性。」McAfee 表示。


McAfee 的研究遵循類似對抗性機器學習(Adversarial Machine Learning)的學術工作,屬於較新的研究領域,

專門研究如何操縱基於電腦的學習系統。研究人員 2017 年發現,在停車標誌(Stop Sign)的特定位置貼上 4 張黑白貼紙,

就可能騙過電腦視覺,讓它誤看成是時速 45 英里的速限號誌。


杜克大學(Duke University)機器人學教授暨自駕車專家 Missy Cummings 表示,這問題並不是特斯拉或 Mobileye 獨有,

而是自駕車先進系統先天存在的普遍安全弱點。研究人員已證明,不存取系統本身的情況下改變實體環境可能會導致潛在的

嚴重失靈狀況。「這就是為什麼它如此危險,因為你不需要透過存取系統破解,你只需要存在我們所處的世界。」她表示。


Cummings 表示,McAfee 的發現說明為什麼自駕車應該接受「視覺測試」,以評估自動駕駛系統能否安全偵測周遭,

並及時處理其他車輛、行人和其他用路人共同構建的各種真實狀況。安全倡導人士已敦促美國汽車安全監管機構和國會議員,

將此評估結果納入國會正制定的新自駕車法案的其他要件。


——轉載自:technews

留言 歡迎來到 fic
如果您在瀏覽本網站或使用我們的產品的過程中遇到任何問題,請寫下您的意見或建議,我們將會盡快與您聯繫!感謝您的關注!

首頁

產品

關於

聯繫