
該報(bào)告所提出的問題包括:
一、 雨刷的視覺識(shí)別缺陷
特斯拉Autopilot系統(tǒng)借助圖像識(shí)別技術(shù),通過識(shí)別外部天氣狀況實(shí)現(xiàn)自動(dòng)雨刷功能。科恩實(shí)驗(yàn)室通過研究發(fā)現(xiàn),利用AI對(duì)抗樣本生成技術(shù)生成特定圖像并進(jìn)行干擾時(shí),該系統(tǒng)輸出了“錯(cuò)誤”的識(shí)別結(jié)果,導(dǎo)致車輛雨刷啟動(dòng)。
二、車道的視覺識(shí)別缺陷
特斯拉Autopilot系統(tǒng)通過識(shí)別道路交通標(biāo)線,實(shí)現(xiàn)對(duì)車道的識(shí)別和輔助控制。科恩實(shí)驗(yàn)室通過研究發(fā)現(xiàn),在路面部署干擾信息后,可導(dǎo)致車輛經(jīng)過時(shí)對(duì)車道線做出錯(cuò)誤判斷,致使車輛駛?cè)敕聪蜍嚨馈?/span>
三、遙控器操控車輛行駛
利用已知漏洞在特斯拉Model S(版本2018.6.1)獲取Autopilot控制權(quán)之后,科恩實(shí)驗(yàn)室通過實(shí)驗(yàn)證明,即使Autopilot系統(tǒng)沒有被車主主動(dòng)開啟,也可以利用Autopilot功能實(shí)現(xiàn)通過游戲手柄對(duì)車輛行駛方向進(jìn)行操控。
不過特斯拉對(duì)騰訊科恩實(shí)驗(yàn)室的演示似乎不以為然,該公司評(píng)論道:“該實(shí)驗(yàn)通過放置在汽車擋風(fēng)玻璃前的電視顯示圖像,從而證明這項(xiàng)研究,然而這不是司機(jī)面臨的現(xiàn)實(shí)情況,也不涉及安全問題。此外,正如我們?cè)谑褂檬謨?cè)所述, “我們擋風(fēng)玻璃刮水器的自動(dòng)設(shè)置,目前處于測試階段。客戶可以隨時(shí)選擇使用手動(dòng)擋風(fēng)玻璃的刮水器設(shè)置。”

特斯拉還表示,在這次演示中,研究人員調(diào)整了車輛周圍的物理環(huán)境(例如在公路上放置磁帶或改變車道線路),以使汽車在使用自動(dòng)駕駛儀時(shí)有不同的表現(xiàn)。然而有鑒于駕駛員可以隨時(shí)使用方向盤或制動(dòng)器輕松取代自動(dòng)駕駛儀,該實(shí)驗(yàn)反應(yīng)的并非現(xiàn)實(shí)世界的情況。”
騰訊作為特斯拉的投資者,旗下騰訊科恩實(shí)驗(yàn)室,對(duì)高級(jí)輔助駕駛安全技術(shù)保持著高度關(guān)注。在2018年Black Hat USA大會(huì)上,科恩實(shí)驗(yàn)室發(fā)表相關(guān)議題,面向全球首次公布了針對(duì)特斯拉Autopilot系統(tǒng)的遠(yuǎn)程無接觸攻擊(相關(guān)攻擊鏈已經(jīng)被特斯拉修復(fù))。由于曾多次設(shè)法控制特斯拉汽車,該實(shí)驗(yàn)室的研究使特斯拉升級(jí)了其軟件安全性。