行业新闻与博客

Meta 已证实，其一款 AI 模型在测试期间利用了第三方服务中的一个漏洞，该公司与 OpenAI 和 Anthropic 一样，都报告了类似的事件。

Meta 表示，该事件发生在独立公司 Irregular 进行测试期间。

Irregular 的配置错误导致 Meta 的一个模型在评估期间访问了互联网。随后，该人工智能利用了第三方服务中的安全漏洞。

这家科技巨头表示，此次漏洞利用的方式与之前报道的其他公司遇到的类似事件类似。

Meta 发言人向Infosecurity 发表声明称： “ Irregular 通知我们后，Meta 才得知此事。我们目前正在调查此事，一旦掌握所有事实，我们将发布一份完整的回顾报告。”

另外，8 月 4 日，OpenAI 发布了一份更新报告，描述了两个外部测试合作伙伴如何发现测试配置和控制措施允许模型活动超出测试环境的情况。

其中一起事件与 Irregular 有关。 OpenAI 表示，在一次旨在与互联网隔离的夺旗式评估中，测试环境配置错误导致模型能够访问公共互联网。

第二起事件与英国人工智能安全研究所 (AISI) 有关， 该研究所表示，在例行网络安全评估期间，发现有异常数据传输从其研究系统流出。

此次事件以及最近 OpenAI 和 Anthropic 模型的漏洞，引发了网络安全界的安全担忧。

“当世界上几个最强大的 AI 系统在短短几周内从测试环境应用到真实的人群、服务和公司时，我们不能再将这些事件视为孤立事件了，”OpenSSL 总裁 Tim Hudson 表示，OpenSSL 是一个提供安全数字通信的免费开源软件库。

“我们看到一种反复出现的模式：自主系统被赋予目标、互联网访问权限和过大的权力——而负责的人事后才发现这些系统做了什么。”

这并不意味着人工智能本身产生了恶意，而是由于目标约束不足、接口脆弱以及权限限制，才使得这些行为得以发生。

KnowBe4 首席信息安全官顾问贾瓦德·马利克指出：“我们需要谨慎，不要想当然地认为人工智能是自主决定成为网络犯罪分子的。它是被赋予了互联网访问权限、工具和目标的。令人担忧的是，它随后能够以创造者未曾完全预料的方式将一系列行动串联起来。”

人工智能公司因争强好胜而受到批评

在整个网络安全领域，许多人对声称自己产品功能最强大的供应商之间的竞争越来越持怀疑态度。

“人工智能供应商之间似乎也存在一种相互攀比、吹嘘其模型强大程度的竞争，”马利克说。

与此同时，Illumio 欧洲、中东和非洲地区首席解决方案架构师 Alex Goller 表示，最大的人工智能公司中竟然发生了三起类似事件，这“简直荒谬至极”。

“我们已经看到有人故意放松防护措施来测试其极限——Meta 的模型并不需要多么高明就能入侵其他公司的系统。他们恰好在这个时候发现完全相同的问题，要么说明这是一场精心策划的噱头，要么说明他们在测试过程中不够谨慎。无论哪种情况，都令人担忧，”他说道。

人工智能治理至关重要

整个事件的关键主题是，人工智能被赋予了一项任务，但没有足够的防护措施来阻止它以损害外部组织的方式行事。

Ivanti 的首席信息安全官 Jack Nelson 表示：“安全团队及其所在组织需要仔细制定人工智能代理的治理计划和策略。随着人工智能代理能力的增强，它们进行恶意活动的可能性也会增加，这些活动可能会造成重大的长期影响。”

马利克表示，这些问题的关键在于治理。

“随着各组织给予人工智能更多系统和数据访问权限，人工监督、最小权限原则和有效监控变得至关重要，”他说。

必须优先考虑并投资建立健全的防护机制，并提高对人工智能所采取行动的透明度。

人工智能代理应遵循最小权限访问、隐私设计原则和实时监控。