網絡安全的博弈從來都是場持久戰,攻防之間的技術維度也在日益升級。而面對已然到來的AI時代,潛在的網絡安全風險已不僅出現在數據層面,更凸顯在其背后底層的技術邏輯。

　　由此,百度安全與英特爾聯手打造的全球首個內存安全的可信計算架構MesaTEE應運而生。其將百度安全首創的高級內存安全技術模型Hybrid Memory Safety(HMS)和英特爾軟件防護擴展Software Guard Extensions(Intel SGX)相結合,使內存安全可信的安全人工智能計算框架成為可能。

　　美國當地時間3月4日,在國際網絡安全領域已有24年歷史的RSA大會在舊金山開幕。作為重要的技術創新,百度安全與英特爾一起展示了MesaTEE在包括公有云、區塊鏈在內的各類復雜場景中對隱私數據和AI模型的強大保護能力。

　　在大會現場,百度安全還首次透露了即將發布的MesaTEE全新版本的相關信息——對云和邊緣計算設備全面升級的AI算法保護支持,這也將是自2018年9月,百度首席安全科學家韋韜博士與英特爾副總裁Lorie Wigle共同宣布推出MesaTEE之后的一次重大技術升級。

　　韋韜博士與英特爾副總裁Lorie Wigle共同宣布推出MesaTEE

　　眾所周知,AI系統中的機器學習容易受到對抗樣本的攻擊,對圖像數據疊加部分人類難以通過感官辨識到的細微擾動,就可以“欺騙”機器學習模型做出錯誤的判斷,未雨綢繆至關重要。

　　上圖展示了在RSA大會上由百度安全展示的實驗案例,通過一個普通的識別設備,AI系統正確的識別了一只貓的圖像。但是,在其數據及AI模型被攻擊者破解并生成一系列對抗性輸入后,識別設備被“欺騙”,這只貓被AI系統錯誤地識別為一只狗。

　　這樣的情況還出現在自動駕駛領域,如下圖所示,一方面,通過類似的數據篡改或在現實世界中實際的物理干擾,攻擊者可讓AI系統喪失對于道路標識和其他車輛正確的識別能力,造成嚴重的安全隱患;另一方面,一旦攻擊者破譯了其背后的AI模型,便可以繞過人臉識別系統解鎖車輛或直接進行遠程控制,實現對車輛的非法接管和對相關隱私信息的竊取。

　　要知道,當前很多AI系統在圖像識別層面都存在著或多或少的技術漏洞,而目前這類方案已開始被應用于自動駕駛、醫療保健、金融認證、工業控制、大數據計算等場景之中,數據安全和隱私保護能力的缺位,將直接威脅你我的生命財產安全和社會的正常運轉。提升AI識別系統的反欺騙能力,也是其在各類公共場景中大范圍應用的安全前提之一。

　　事實上,MesaTEE所試圖解決的正是這一在AI時代愈發迫切的問題�；�于Intel SGX提供的硬件可信執行環境,MesaTEE實現了云上數據的完整性和保密性的芯片級安全保障,且不會導致性能和功能的顯著降級。同時,通過允許用戶對執行環境進行遠程驗證,確保遠程執行環境符合預期,有效降低隱私數據的暴露風險。而借助HMS技術,MesaTEE還兼具了內存安全所帶來的不可繞過性,使其能夠抵御絕大多數的攻擊——在上文所提及的“貓狗實驗”中,在MesaTEE的環境下操作時,攻擊者便未能獲取相關信息并進行破解。

　　換句話說,MesaTEE為企業上云提供了更安全的端到端通道,并支持包括卷積神經網絡在內的通用人工智能計算的理解和訓練,性能與安全實現了統一。

　　盡管有著類似歐盟GDPR通用數據保護條例這樣嚴格的法律規制,但在過去的一年中,全球范圍內仍然發生了至少6500起、涉及超過50億條含有隱私信息的數據泄露事件。保證底層技術方案的安全,是保證整個AI生態安全的重要基礎之一�？梢灶A見,以MesaTEE為代表的內存安全的可信計算架構將大大延展互聯網信任的技術邊界,基于此孵化出的下一代區塊鏈基礎設施、高速多方的安全計算,將廣泛應用于大數據分析和機器學習中。

　　未來,百度和英特爾將進一步加強合作,推動可信安全計算應用落地。同時,也呼吁更廣泛的社區生態合作,用技術助力AI時代發展,守護AI生態安全。(一鳴)