行業新聞與博客

谷歌發現了一種新型的人工智能惡意軟件，它在執行過程中使用大型語言模型（LLM）動態生成惡意腳本並逃避檢測。

谷歌威脅情報小組 (GTIG) 昨天發佈的一份報告重點介紹了兩個使用“即時人工智能”的惡意軟件家族——PromptFlux 和 PromptSteal。

報告解釋説：“這些工具能夠動態生成惡意腳本，混淆自身代碼以逃避檢測，並利用人工智能模型按需創建惡意功能，而不是將其硬編碼到惡意軟件中。”

“雖然仍處於起步階段，但這代表着向更自主、更具適應性的惡意軟件邁出的重要一步。”

PromptFlux 是一個用 VBScript 編寫的投放器，它利用 Google Gemini API 進行“再生”。它會提示 LLM 動態重寫自身的源代碼，然後將混淆後的版本保存到啓動文件夾以實現持久化。GTIG 表示，該惡意軟件還會嘗試通過將自身複製到可移動驅動器和映射的網絡共享來傳播。

PromptSteal 是一個用 Python 編寫的數據挖掘器，它查詢 LLM Qwen2.5-Coder-32B-Instruct 以生成單行 Windows 命令，收集特定文件夾中的信息和文檔，並將數據發送到命令與控制 (C2) 服務器。

GTIG 表示，他們觀察到俄羅斯恐怖組織 APT28 在烏克蘭使用了 PromptSteal，而 PromptFlux 仍在開發中。

報告重點提及的其他人工智能惡意軟件家族包括：

• FruitShell：一個用 PowerShell 編寫的反向 shell，它可以建立遠程 C2 連接，並在目標系統上執行命令。它使用硬編碼提示符來規避基於 LLM 的安全機制的檢測。
• PromptLock：一種用 Go 語言編寫的勒索軟件，它利用 LLM 在運行時動態生成惡意 Lua 腳本，用於偵察、數據加密和數據竊取。
• QuietVault：一款 JavaScript 憑證竊取工具，它利用 AI 提示和主機上安裝的 AI CLI 工具來搜索和竊取密鑰。

人工智能惡意軟件市場日趨成熟

谷歌警告稱，人工智能工具在網絡犯罪領域的市場正在快速發展。該公司指出，“市面上出現了多種旨在支持網絡釣魚、惡意軟件開發和漏洞研究的多功能工具”，這可能會進一步助長網絡犯罪的蔓延。

報告還指出，有人持續試圖通過在提示中使用“類似社交工程的藉口”來繞過 Gemini 的安全防護措施。此外，GTIG 警告稱，一些國家行為體正在濫用該聊天機器人，以協助其攻擊的各個階段——從偵察和創建釣魚誘餌到指揮控制網絡的構建和數據竊取。

AppOmni 的首席安全官 Cory Michal 表示，GTIG 的報告與他的公司在 SaaS 威脅形勢中看到的情況相呼應。

“人工智能惡意軟件會改變其代碼，使得傳統的基於特徵碼的檢測方法失效。防禦者需要的是行為型 EDR，它關注的是惡意軟件的行為 ，而不是它的外觀，”他補充道。

“檢測應重點關注異常進程創建、腳本活動或意外的出站流量，尤其是指向 Gemini、Hugging Face 或 OpenAI 等 AI API 的流量。通過關聯端點、SaaS 和身份遙測數據中的行為信號，企業可以發現攻擊者何時濫用 AI，並在數據泄露之前阻止他們。”

Cofense 的網絡情報團隊經理 Max Gannon 認為，在攻擊鏈的每一步使用人工智能都應該引起網絡防禦者的關注。

“這與去年人工智能的使用非常有限，主要集中在網絡釣魚郵件和工具包方面，是一個顯著的變化，”他補充道。

“我預計在不久的將來，一些有進取心的威脅行為者將會出售包含所有必要功能的 AI 工具包，這些工具包可以生成攻擊鏈的每個部分，而且不需要任何專業知識——唯一的准入門檻就是訂閲費。”