行业新闻与博客

谷歌发现了一种新型的人工智能恶意软件，它在执行过程中使用大型语言模型（LLM）动态生成恶意脚本并逃避检测。

谷歌威胁情报小组 (GTIG) 昨天发布的一份报告重点介绍了两个使用“即时人工智能”的恶意软件家族——PromptFlux 和 PromptSteal。

报告解释说：“这些工具能够动态生成恶意脚本，混淆自身代码以逃避检测，并利用人工智能模型按需创建恶意功能，而不是将其硬编码到恶意软件中。”

“虽然仍处于起步阶段，但这代表着向更自主、更具适应性的恶意软件迈出的重要一步。”

PromptFlux 是一个用 VBScript 编写的投放器，它利用 Google Gemini API 进行“再生”。它会提示 LLM 动态重写自身的源代码，然后将混淆后的版本保存到启动文件夹以实现持久化。GTIG 表示，该恶意软件还会尝试通过将自身复制到可移动驱动器和映射的网络共享来传播。

PromptSteal 是一个用 Python 编写的数据挖掘器，它查询 LLM Qwen2.5-Coder-32B-Instruct 以生成单行 Windows 命令，收集特定文件夹中的信息和文档，并将数据发送到命令与控制 (C2) 服务器。

GTIG 表示，他们观察到俄罗斯恐怖组织 APT28 在乌克兰使用了 PromptSteal，而 PromptFlux 仍在开发中。

报告重点提及的其他人工智能恶意软件家族包括：

• FruitShell：一个用 PowerShell 编写的反向 shell，它可以建立远程 C2 连接，并在目标系统上执行命令。它使用硬编码提示符来规避基于 LLM 的安全机制的检测。
• PromptLock：一种用 Go 语言编写的勒索软件，它利用 LLM 在运行时动态生成恶意 Lua 脚本，用于侦察、数据加密和数据窃取。
• QuietVault：一款 JavaScript 凭证窃取工具，它利用 AI 提示和主机上安装的 AI CLI 工具来搜索和窃取密钥。

人工智能恶意软件市场日趋成熟

谷歌警告称，人工智能工具在网络犯罪领域的市场正在快速发展。该公司指出，“市面上出现了多种旨在支持网络钓鱼、恶意软件开发和漏洞研究的多功能工具”，这可能会进一步助长网络犯罪的蔓延。

报告还指出，有人持续试图通过在提示中使用“类似社交工程的借口”来绕过 Gemini 的安全防护措施。此外，GTIG 警告称，一些国家行为体正在滥用该聊天机器人，以协助其攻击的各个阶段——从侦察和创建钓鱼诱饵到指挥控制网络的构建和数据窃取。

AppOmni 的首席安全官 Cory Michal 表示，GTIG 的报告与他的公司在 SaaS 威胁形势中看到的情况相呼应。

“人工智能恶意软件会改变其代码，使得传统的基于特征码的检测方法失效。防御者需要的是行为型 EDR，它关注的是恶意软件的行为 ，而不是它的外观，”他补充道。

“检测应重点关注异常进程创建、脚本活动或意外的出站流量，尤其是指向 Gemini、Hugging Face 或 OpenAI 等 AI API 的流量。通过关联端点、SaaS 和身份遥测数据中的行为信号，企业可以发现攻击者何时滥用 AI，并在数据泄露之前阻止他们。”

Cofense 的网络情报团队经理 Max Gannon 认为，在攻击链的每一步使用人工智能都应该引起网络防御者的关注。

“这与去年人工智能的使用非常有限，主要集中在网络钓鱼邮件和工具包方面，是一个显著的变化，”他补充道。

“我预计在不久的将来，一些有进取心的威胁行为者将会出售包含所有必要功能的 AI 工具包，这些工具包可以生成攻击链的每个部分，而且不需要任何专业知识——唯一的准入门槛就是订阅费。”