英特爾和佐治亞理工學(xué)院(Georgia Tech)今天宣布，他們已被選中領(lǐng)導(dǎo)國防高級研究計劃局(DARPA)的保證人工智能(AI)防止欺騙的魯棒性(GARD)計劃團(tuán)隊)。在為期四年，耗資數(shù)百萬美元的共同努力中，英特爾是主要承包商，以改善針對機(jī)器學(xué)習(xí)(ML)模型的欺騙性攻擊的網(wǎng)絡(luò)安全防御。

“英特爾和喬治亞理工大學(xué)正在共同努力，促進(jìn)生態(tài)系統(tǒng)對AI和ML漏洞的集體理解和緩解能力。通過對一致性技術(shù)的創(chuàng)新研究，我們正在合作開發(fā)一種方法，以增強(qiáng)對象檢測并提高AI和ML對對抗攻擊的響應(yīng)能力，”英特爾實驗室首席工程師兼DARPA GARD計劃首席研究員Jason Martin說來自英特爾。

對抗攻擊很少見，但它試圖欺騙，更改或破壞ML算法對數(shù)據(jù)的解釋。隨著AI和ML模型越來越多地納入半自治和自治系統(tǒng)中，不斷提高意外或欺騙性交互的穩(wěn)定性，安全性和安全性至關(guān)重要。例如，在像素級別的AI錯誤分類和錯誤解釋可能會導(dǎo)致圖像錯誤解釋和標(biāo)簽錯誤，或者對現(xiàn)實世界對象的細(xì)微修改可能會使AI感知系統(tǒng)混亂。GARD將幫助AI和ML技術(shù)更好地防御未來的潛在攻擊。

當(dāng)前的防御工作旨在防止特定的預(yù)定義對抗攻擊，但在超出其指定設(shè)計參數(shù)的條件下進(jìn)行測試時仍然容易受到攻擊。GARD打算以不同的方式處理ML防御-通過開發(fā)基礎(chǔ)廣泛的防御措施來解決給定情況下可能導(dǎo)致ML模型錯誤分類或錯誤解釋數(shù)據(jù)的多種可能的攻擊。由于其廣泛的架構(gòu)覆蓋范圍和安全領(lǐng)導(dǎo)地位，英特爾在幫助推動AI和ML技術(shù)創(chuàng)新方面具有獨特的地位，并在成果中占有舉足輕重的地位。

GARD計劃的目標(biāo)是建立理論上的機(jī)器學(xué)習(xí)系統(tǒng)基礎(chǔ)，這些基礎(chǔ)不僅可以識別系統(tǒng)漏洞并描述特性以增強(qiáng)系統(tǒng)的魯棒性，而且可以促進(jìn)創(chuàng)建有效的防御措施。通過這些計劃要素，GARD的目標(biāo)是創(chuàng)建具有嚴(yán)格標(biāo)準(zhǔn)的抗欺騙性機(jī)器學(xué)習(xí)技術(shù)，以評估其有效性。

在GARD的第一階段，英特爾和佐治亞理工學(xué)院正在通過靜止圖像和視頻的空間，時間和語義一致性來增強(qiáng)對象檢測技術(shù)。英特爾致力于推動AI和ML創(chuàng)新，并相信與全球熟練的安全研究人員合作是解決更廣泛行業(yè)和我們客戶潛在安全漏洞的關(guān)鍵部分。