交通號誌上的塗鴉 讓自動駕駛立馬投降

交通號誌上的塗鴉 讓自動駕駛立馬投降
▲如果真的發生自動駕駛辨識錯誤的情況,對車主來說非常危險。(圖片翻攝自Pixabay)

【原文:雷鋒網原創文章《“黑”掉自動駕駛汽車,只要給路標塗個大花臉》,作者:李勤,智慧機器人網編輯整理】

文、圖/雷鋒網

雷鋒網消息,街上的交通號誌未來會成為自動駕駛汽車通行時的領路者,不過一個研發團隊近日發現,如果對這些交通號誌稍加改動,可能就會讓自動駕駛汽車徹底懵掉,其機器學習系統會對標誌進行錯誤的分類並做出錯誤決定,將乘客的生命置於危險之中。

如果有人惡作劇,用新的貼圖覆蓋整個交通號誌或在上面黏貼一些小貼紙,就能成功騙過自動駕駛汽車,讓它們做出錯誤的判斷。如果交通號誌被整個覆蓋,恐怕車上的乘客也根本無法分辨。

 

遇到了一個「假」標誌

舉例來說,圖中的 4 種標誌是該團隊設計出來專門「欺騙」自動駕駛汽車的。

雷鋒網發現,在左邊第一張圖的場景中(標誌上寫有「 love 」和「 hate 」),自動駕駛汽車會將停止標誌認成“限速 45 英里/小時”),而且一騙一個准。

左起第二和第三張圖中,貼紙和塗鴉也能騙過機器學習系統,不過欺騙的成功率僅為 67%。

第四張圖中專門印刷出來的假路標也會讓機器學習系統變傻,在它眼中「右轉」變成了停止標誌(欺騙成功率 100%)。

 

反愚弄措施也不少

隨著自動駕駛逐漸普及,保持路標清潔將會成為智慧城市管理者的強制責任。

研究人員也給管理者們出了主意,未來的路牌可以用防貼紙材料製作。除此之外,汽車製造商也要讓機器學習系統掌握更多的資訊,畢竟在繁忙的公路上是不會出現停止標誌的。

雷鋒網(公眾號:雷鋒網)發現,這已經不是第一個有關自動駕駛汽車被干擾的研究了。2015 年 9 月時, Security Innovation 的安全研究人員 Jonathan Petit 就聲稱他能輕鬆愚弄任何自動駕駛汽車上的 LiDAR ,導致車輛減速或緊急刹車,而所用的干擾工具只不過是能發射雷射脈衝的自製小設備而已。

 

雷鋒網原創文章,未經授權禁止轉載。詳情見轉載須知

 【原文:雷鋒網原創文章《“黑”掉自動駕駛汽車,只要給路標塗個大花臉》,作者:李勤,智慧機器人網編輯整理】

熱門標籤

延伸閱讀

留言