該報(bào)告所提出的問(wèn)題包括:
一、 雨刷的視覺(jué)識(shí)別缺陷
特斯拉Autopilot系統(tǒng)借助圖像識(shí)別技術(shù),通過(guò)識(shí)別外部天氣狀況實(shí)現(xiàn)自動(dòng)雨刷功能。科恩實(shí)驗(yàn)室通過(guò)研究發(fā)現(xiàn),利用AI對(duì)抗樣本生成技術(shù)生成特定圖像并進(jìn)行干擾時(shí),該系統(tǒng)輸出了“錯(cuò)誤”的識(shí)別結(jié)果,導(dǎo)致車(chē)輛雨刷啟動(dòng)。
二、車(chē)道的視覺(jué)識(shí)別缺陷
特斯拉Autopilot系統(tǒng)通過(guò)識(shí)別道路交通標(biāo)線,實(shí)現(xiàn)對(duì)車(chē)道的識(shí)別和輔助控制??贫鲗?shí)驗(yàn)室通過(guò)研究發(fā)現(xiàn),在路面部署干擾信息后,可導(dǎo)致車(chē)輛經(jīng)過(guò)時(shí)對(duì)車(chē)道線做出錯(cuò)誤判斷,致使車(chē)輛駛?cè)敕聪蜍?chē)道。
三、遙控器操控車(chē)輛行駛
利用已知漏洞在特斯拉Model S(版本2018.6.1)獲取Autopilot控制權(quán)之后,科恩實(shí)驗(yàn)室通過(guò)實(shí)驗(yàn)證明,即使Autopilot系統(tǒng)沒(méi)有被車(chē)主主動(dòng)開(kāi)啟,也可以利用Autopilot功能實(shí)現(xiàn)通過(guò)游戲手柄對(duì)車(chē)輛行駛方向進(jìn)行操控。
不過(guò)特斯拉對(duì)騰訊科恩實(shí)驗(yàn)室的演示似乎不以為然,該公司評(píng)論道:“該實(shí)驗(yàn)通過(guò)放置在汽車(chē)擋風(fēng)玻璃前的電視顯示圖像,從而證明這項(xiàng)研究,然而這不是司機(jī)面臨的現(xiàn)實(shí)情況,也不涉及安全問(wèn)題。此外,正如我們?cè)谑褂檬謨?cè)所述, “我們擋風(fēng)玻璃刮水器的自動(dòng)設(shè)置,目前處于測(cè)試階段??蛻艨梢噪S時(shí)選擇使用手動(dòng)擋風(fēng)玻璃的刮水器設(shè)置。”
特斯拉還表示,在這次演示中,研究人員調(diào)整了車(chē)輛周?chē)奈锢憝h(huán)境(例如在公路上放置磁帶或改變車(chē)道線路),以使汽車(chē)在使用自動(dòng)駕駛儀時(shí)有不同的表現(xiàn)。然而有鑒于駕駛員可以隨時(shí)使用方向盤(pán)或制動(dòng)器輕松取代自動(dòng)駕駛儀,該實(shí)驗(yàn)反應(yīng)的并非現(xiàn)實(shí)世界的情況。”
騰訊作為特斯拉的投資者,旗下騰訊科恩實(shí)驗(yàn)室,對(duì)高級(jí)輔助駕駛安全技術(shù)保持著高度關(guān)注。在2018年Black Hat USA大會(huì)上,科恩實(shí)驗(yàn)室發(fā)表相關(guān)議題,面向全球首次公布了針對(duì)特斯拉Autopilot系統(tǒng)的遠(yuǎn)程無(wú)接觸攻擊(相關(guān)攻擊鏈已經(jīng)被特斯拉修復(fù))。由于曾多次設(shè)法控制特斯拉汽車(chē),該實(shí)驗(yàn)室的研究使特斯拉升級(jí)了其軟件安全性。