行业新闻与博客

人工智能安全研究所 (AISI) 在测试了 Anthropic 的最新模型后，敦促各组织加倍重视“网络安全基础知识”，并考虑利用人工智能来保护系统。

上周， Claude Mythos Preview 模型制造商声称发现了数千个可以追溯到几十年前的零日漏洞，这引起了媒体的广泛关注。

Anthropic 公司迅速宣布启动“Glasswing 项目”，该项目将允许参与该计划的技术供应商使用 Mythos Preview 来查找和修复这些漏洞。

尽管该公司承诺不会向公众发布新模型，但人们担心它最终会落入不法分子手中。

现在，英国安全情报局 (AISI) 也加入了讨论，在其对该模型的评估中透露，它代表着“在网络安全性能已经迅速提高的背景下，比以前的前沿模型更进一步”。

AISI 透露：“在受控评估中，我们明确指示 Mythos Preview 执行操作，并授予其网络访问权限，结果发现它可以对易受攻击的网络执行多阶段攻击，并自主发现和利用漏洞——这些任务需要专业人员花费数天时间才能完成。”

然而，也有一些需要注意的地方。

该研究所建立了一个“32 步企业网络攻击模拟”，从侦察到完全网络接管——该研究所声称，人类完成这项操作大约需要 20 个小时。

Mythos 十次尝试中只成功解决了三次，平均每次尝试完成 32 步中的 22 步。不过，如果增加推理计算量，性能或许会有所提升。 

正在进行中

然而，AISI 补充说，其测试环境与现实世界中的同类环境存在重要差异。

“Mythos Preview 在一个网络靶场上的成功表明，它至少能够自主攻击小型、防御薄弱且易受攻击的企业系统，前提是已经获得了对网络的访问权限，”声明中写道。

“然而，我们的模拟靶场与真实环境存在重要差异，这使得它们更容易成为攻击目标。它们缺乏通常存在的安全措施，例如主动防御系统和防御工具。此外，该模型也不会因执行触发安全警报的操作而受到任何惩罚。”

所有这些都意味着 AISI “无法确定” Mythos Preview 是否能够成功攻击“防御完善的系统”。

未来，它旨在通过模拟具有端点检测和实时事件响应的强化防御环境来弥补这些理解上的差距。

现在该怎么办

与此同时，该机构敦促安全团队改进基础防护，以便最大限度地减轻使用 Mythos 的攻击。

“我们的测试表明，Mythos Preview 可以利用安全态势较弱的系统，而且很可能未来会开发出更多具备这些功能的模型，”报告总结道。

“这凸显了网络安全基础知识的重要性，例如定期应用安全更新、强大的访问控制、安全配置和全面的日志记录。”

报告还建议各组织考虑使用人工智能来帮助实现“国防领域颠覆性的改进”。

AISI 和国家网络安全中心 (NCSC) 于 3 月 30 日联合发表的一篇博客文章解释说，人工智能可以通过以下方式提供帮助：

• 通过机器速度系统扫描、识别错误配置和漏洞、测试可利用性以及绘制复杂攻击路径来缩小攻击面
• 通过对警报进行分类、从各种日志中理解模式以及为分析人员编写摘要报告，增强威胁检测和调查能力。
• 自动执行响应操作，例如阻止流量、隔离可疑进程和撤销用户访问权限。