今年2月，歐盟網路安全域性（ENISA）釋出《在自動駕駛中採用人工智慧的網路安全挑戰》報告。賽迪智庫網路安全研究所對該報告進行了編譯，期望對我國有關部門有所幫助。
“
報告梳理了人工智慧技術在自動駕駛汽車中的應用現狀，透過5個攻擊場景深入分析了人工智慧技術在自動駕駛中產生的網路安全威脅和挑戰，並提出加強人工智慧網路安全供應鏈安全、開發端到端的人工智慧安全解決方案、提升人工智慧相關事件處置和漏洞發現能力、加強汽車行業人工智慧安全培訓等多項對策建議。該報告旨在提高人們對人工智慧技術潛在風險的認識並有效化解風險。
”
藉助人工智慧技術的進步，新一代汽車正在實現半自動和自動駕駛功能。根據美國汽車工程學會發布的《道路機動車輛駕駛自動化系統相關術語的分類和定義》（以下簡稱SAE J3016），道路機動車輛被劃分為六個自動駕駛級別，從沒有自動駕駛的0級到完全自動駕駛且不需要駕駛員的5級，如圖1所示。本報告所指自動駕駛車輛，對應SAE J3016中的4級和5級車輛。
一、人工智慧技術在自動駕駛中的應用
（一）自動駕駛汽車中的人工智慧技術
過去10年，自動駕駛快速發展。自動駕駛系統能夠透過感知並推斷周圍環境，做出安全、順利到達目的地的判斷，並據此採取行動控制車輛。人工智慧技術特別是機器學習的快速發展是實現自動駕駛的重要推動因素。圖2列出了自動駕駛系統面臨的典型場景。
利用人工智慧和機器學習技術實現的自動駕駛系統增強型功能主要包括制動輔助、智慧停車、與資訊娛樂系統的語音互動等。
（二）自動駕駛系統中的人工智慧軟體
在現實環境中駕駛車輛並非易事，需要有複雜的社會倫理和決策能力，才能有效應對各種意外和危險情況。嵌入在自動駕駛車輛中的人工智慧軟體可以實現這些功能，它們透過對處理感測器收集到的各種資料進行處理，從而做出移動、停車、減速等決策。
（三）汽車功能與人工智慧技術的對應關係
表1列出了自動駕駛汽車功能與人工智慧技術的對應關係。
二、自動駕駛中的人工智慧網路安全問題
自動駕駛和車聯網的發展對車輛的計算功能和互連互通提出了更高要求，也增加了車輛受到網路攻擊的可能性。自動駕駛車輛的網路安全風險將對乘客、行人、其他車輛和相關基礎設施安全產生影響，亟需對應用人工智慧的安全漏洞風險進行研究。人工智慧網路威脅可分為兩類：有意威脅和無意威脅。
常見的網路安全威脅包括四類：
一是感測器卡塞、致盲、欺騙/飽和。感測器會致盲或受到干擾。透過這種方式，攻擊者可操縱人工智慧模型，向人工智慧演算法提供錯誤資料、或故意提供不完整資料，從而降低自動決策的有效性。
二是DoS/DDoS攻擊。中斷自動駕駛車輛可用的通訊通道，使其與外界基本失去聯絡。這種攻擊方式會直接影響車輛操作，並會阻止自動駕駛。DDoS攻擊的目的是中斷通訊通道。
三是操縱車輛通訊。劫持和操縱通訊通道會對自動駕駛操作產生嚴重影響，攻擊者可修改傳輸的感測器讀數或錯誤解釋道路基礎設施提供的資訊。
四是資訊洩露。車輛為了實現自動駕駛會儲存和使用大量的個人敏感資訊，包括人工智慧元件上儲存的關鍵資料，因此潛在攻擊者會有意獲取此類資訊從而導致資料洩露。
下面透過5個假設場景，對自動駕駛汽車中存在的人工智慧漏洞危害進行解釋。
攻擊場景1：針對用於街道標誌識別和車道檢測的影象處理模型的對抗性擾動。
攻擊場景2：對規劃模組進行中間人攻擊。
攻擊場景3：對停車標誌識別的資料投毒攻擊。
攻擊場景4：入侵OEM後臺伺服器後大規模部署惡意軟體攻擊。
攻擊場景5：感測器/通訊干擾和全球導航衛星系統（GNSS）欺騙攻擊。
三、自動駕駛中的人工智慧網路安全挑戰及相關建議
（一）對人工智慧模型和資料進行系統的安全驗證
資料對構建和驗證人工智慧系統至關重要，並且是機器學習模型學習過程的核心。自動駕駛車輛一般會配置多個感測器，每秒收集數百萬個環境描述資料，這些海量的資料集為複雜、動態的人工智慧模型提供基礎支撐。
（二）與人工智慧網路安全相關的供應鏈挑戰
供應鏈安全是網路安全的重中之重。在人工智慧元件的供應鏈中，如果沒有適當的安全政策和足夠的策略，將會導致系統缺乏彈性，存在潛在的安全漏洞。人工智慧生命週期各階段的安全問題，都可能給汽車供應鏈帶來安全風險。
（三）將人工智慧網路安全與傳統網路安全相結合的端到端整體方案
為保障自動駕駛車輛安全執行，應在自動駕駛車輛中推廣人工智慧安全解決方案，並與傳統網路安全相結合，以提高人工智慧系統的安全性。自動駕駛對人工智慧技術依賴程度的加深，不僅為攻擊者以人工智慧演算法為目標實施網路攻擊提供了動力，而且成功實施網路攻擊造成的後果越來越嚴重。
（四）與人工智慧相關的事件處置和漏洞發現能力
儘管許多企業的網路安全團隊知道自動駕駛車輛的元件和系統存在網路安全隱患，但通常只有當發生安全事件或發現漏洞時，人們才真正意識到安全的重要性。儘管已經對安全漏洞進行了大量宣傳，但人們的網路安全意識仍然很薄弱，特別是在人工智慧系統相關的安全漏洞方面。
（五）汽車行業人工智慧網路安全能力和專業知識的缺乏
由於開發和系統設計人員缺乏人工智慧網路安全方面的專業知識，在開發過程中未對人工智慧元件進行安全測試和程式碼分析，在應用過程中未提前制定網路安全策略，這導致攻擊者輕易地將自動駕駛車輛人工智慧元件鎖定為攻擊目標。因此，人工智慧安全問題通常採用事後補救的方法，且以安全外掛形式為主，又為安全漏洞的產生創造了良好條件。
完整內容，請關注公眾號ID：ccid-2014
