国产精品久久久久一区,亚洲综合色视频,亚洲欧洲av一区二区三区久久

熱點聚焦：引入對抗性訓練可以讓人工智能更難被攻擊和愚弄

2022-10-23 05:47:15 來源：cnBeta.COM

(資料圖)

洛斯阿拉莫斯國家實驗室的研究人員開發(fā)了一種比較神經(jīng)網(wǎng)絡的新方法，該方法著眼于人工智能的"黑箱"，以幫助研究人員理解神經(jīng)網(wǎng)絡的行為。神經(jīng)網(wǎng)絡可以識別數(shù)據(jù)集中的模式，并被用于虛擬助手、面部識別系統(tǒng)和自動駕駛汽車等不同的應用中。

洛斯阿拉莫斯網(wǎng)絡系統(tǒng)高級研究小組的研究員海頓-瓊斯說："人工智能研究界不一定完全了解神經(jīng)網(wǎng)絡在做什么；它們給了我們很好的結(jié)果，但我們不知道如何或為什么，我們的新方法在比較神經(jīng)網(wǎng)絡方面做得更好，這是朝著更好地理解人工智能背后的數(shù)學的關鍵一步。"

洛斯阿拉莫斯的研究人員正在研究比較神經(jīng)網(wǎng)絡的新方法。這張圖片是用一個叫穩(wěn)定擴散的人工智能軟件創(chuàng)建的，使用的提示是"窺視神經(jīng)網(wǎng)絡的黑匣子"。

瓊斯是最近在人工智能不確定性會議上發(fā)表的一篇論文的主要作者。這篇論文除了研究網(wǎng)絡的相似性之外，也是描述魯棒神經(jīng)網(wǎng)絡行為的重要一步。

神經(jīng)網(wǎng)絡是高性能的，但也是脆弱的。例如，自主車輛采用神經(jīng)網(wǎng)絡來識別道路標志。在完美的情況下，它們相當善于這樣做。然而，神經(jīng)網(wǎng)絡可能會錯誤地檢測到一個標志，如果有哪怕是最輕微的異常，如停止標志上的貼紙就可以形成對人工智能的攻擊，并且后者并不會因此而停下來。

因此，為了改進神經(jīng)網(wǎng)絡，研究人員正在尋找提高網(wǎng)絡魯棒性的策略。一種最先進的方法是在網(wǎng)絡被訓練時對其進行"攻擊"。人工智能被訓練成可以忽略研究人員有目的地引入的異常情況。從本質(zhì)上講，這種被稱為對抗性訓練的技術，使欺騙網(wǎng)絡變得更加困難。

在一個令人驚訝的發(fā)現(xiàn)中，瓊斯和他在洛斯阿拉莫斯的合作者雅各布-斯普林格和加勒特-凱尼恩，以及瓊斯的導師賈斯頓-摩爾，將他們新的網(wǎng)絡相似性指標應用于對抗性訓練的神經(jīng)網(wǎng)絡。他們發(fā)現(xiàn)，隨著攻擊嚴重程度的增加，對抗性訓練導致計算機視覺領域的神經(jīng)網(wǎng)絡收斂到非常相似的數(shù)據(jù)表示，而不考慮網(wǎng)絡架構。

"我們發(fā)現(xiàn)，當我們訓練神經(jīng)網(wǎng)絡對對抗性攻擊具有魯棒性時，它們開始做同樣的事情，"瓊斯說。

工業(yè)界和學術界一直在努力尋找神經(jīng)網(wǎng)絡的"正確架構"，但洛斯阿拉莫斯團隊的發(fā)現(xiàn)表明，引入對抗性訓練后，這一搜索空間大大縮小。因此，人工智能研究界可能不需要花那么多時間去探索新的架構，因為他們知道對抗性訓練會使不同的架構收斂到類似的解決方案。

"通過發(fā)現(xiàn)健壯的神經(jīng)網(wǎng)絡彼此相似，我們正在使人們更容易理解健壯的人工智能可能真的如何工作。"瓊斯說："我們甚至可能會發(fā)現(xiàn)關于人類和其他動物的感知是如何發(fā)生的暗示。

關鍵詞：人工智能引入對抗性訓練可以讓人工智能更難被攻擊和