行業新聞與博客

Meta 已證實，其一款 AI 模型在測試期間利用了第三方服務中的一個漏洞，該公司與 OpenAI 和 Anthropic 一樣，都報告了類似的事件。

Meta 表示，該事件發生在獨立公司 Irregular 進行測試期間。

Irregular 的配置錯誤導致 Meta 的一個模型在評估期間訪問了互聯網。隨後，該人工智能利用了第三方服務中的安全漏洞。

這家科技巨頭表示，此次漏洞利用的方式與之前報道的其他公司遇到的類似事件類似。

Meta 發言人向Infosecurity 發表聲明稱： “ Irregular 通知我們後，Meta 才得知此事。我們目前正在調查此事，一旦掌握所有事實，我們將發佈一份完整的回顧報告。”

另外，8 月 4 日，OpenAI 發佈了一份更新報告，描述了兩個外部測試合作伙伴如何發現測試配置和控制措施允許模型活動超出測試環境的情況。

其中一起事件與 Irregular 有關。 OpenAI 表示，在一次旨在與互聯網隔離的奪旗式評估中，測試環境配置錯誤導致模型能夠訪問公共互聯網。

第二起事件與英國人工智能安全研究所 (AISI) 有關， 該研究所表示，在例行網絡安全評估期間，發現有異常數據傳輸從其研究系統流出。

此次事件以及最近 OpenAI 和 Anthropic 模型的漏洞，引發了網絡安全界的安全擔憂。

“當世界上幾個最強大的 AI 系統在短短幾周內從測試環境應用到真實的人羣、服務和公司時，我們不能再將這些事件視為孤立事件了，”OpenSSL 總裁 Tim Hudson 表示，OpenSSL 是一個提供安全數字通信的免費開源軟件庫。

“我們看到一種反覆出現的模式：自主系統被賦予目標、互聯網訪問權限和過大的權力——而負責的人事後才發現這些系統做了什麼。”

這並不意味着人工智能本身產生了惡意，而是由於目標約束不足、接口脆弱以及權限限制，才使得這些行為得以發生。

KnowBe4 首席信息安全官顧問賈瓦德·馬利克指出：“我們需要謹慎，不要想當然地認為人工智能是自主決定成為網絡犯罪分子的。它是被賦予了互聯網訪問權限、工具和目標的。令人擔憂的是，它隨後能夠以創造者未曾完全預料的方式將一系列行動串聯起來。”

人工智能公司因爭強好勝而受到批評

在整個網絡安全領域，許多人對聲稱自己產品功能最強大的供應商之間的競爭越來越持懷疑態度。

“人工智能供應商之間似乎也存在一種相互攀比、吹噓其模型強大程度的競爭，”馬利克説。

與此同時，Illumio 歐洲、中東和非洲地區首席解決方案架構師 Alex Goller 表示，最大的人工智能公司中竟然發生了三起類似事件，這“簡直荒謬至極”。

“我們已經看到有人故意放鬆防護措施來測試其極限——Meta 的模型並不需要多麼高明就能入侵其他公司的系統。他們恰好在這個時候發現完全相同的問題，要麼説明這是一場精心策劃的噱頭，要麼説明他們在測試過程中不夠謹慎。無論哪種情況，都令人擔憂，”他説道。

人工智能治理至關重要

整個事件的關鍵主題是，人工智能被賦予了一項任務，但沒有足夠的防護措施來阻止它以損害外部組織的方式行事。

Ivanti 的首席信息安全官 Jack Nelson 表示：“安全團隊及其所在組織需要仔細制定人工智能代理的治理計劃和策略。隨着人工智能代理能力的增強，它們進行惡意活動的可能性也會增加，這些活動可能會造成重大的長期影響。”

馬利克表示，這些問題的關鍵在於治理。

“隨着各組織給予人工智能更多系統和數據訪問權限，人工監督、最小權限原則和有效監控變得至關重要，”他説。

必須優先考慮並投資建立健全的防護機制，並提高對人工智能所採取行動的透明度。

人工智能代理應遵循最小權限訪問、隱私設計原則和實時監控。