行业新闻与博客

谷歌已开始将其设备上的大型语言模型 (LLM) Gemini Nano 集成到最新版本的 Chrome 浏览器中，以打击在线垃圾邮件、诈骗和网络钓鱼活动。

在发布其浏览器的最新版本 Chrome 137 时，谷歌宣布正在试验设备上的 LLM，作为新浏览器版本安全浏览服务的增强保护模式中的额外保护层。

Chrome 的增强保护模式是 Google 安全浏览的最高级别，该公司声称与标准保护模式相比，它提供了两倍的防网络钓鱼和诈骗保护。

虽然 Gemini Nano 的使用目前仅限于打击 Chrome 桌面上的技术支持诈骗，但 Google 计划扩展此功能以检测其他类型的诈骗，包括包裹追踪和未付费用诈骗。

预计该功能也将于 2025 年晚些时候在 Android 版 Chrome 上推出。

Gemini Nano 打击技术支持诈骗

在 Chrome 安全浏览服务中使用 Gemini Nano 可以利用 LLM 生成信号，安全浏览会使用这些信号对潜在危险网站（例如技术支持诈骗）做出更高置信度的判断。

当用户访问潜在恶意页面时，Chrome 设备上的 Gemini Nano LLM 会评估页面内容，以提取安全信号，例如意图。这些信息会被发送到“安全浏览”功能，最终判定该页面是否为诈骗页面。如果被认定为威胁，Chrome 会显示警告。

该流程旨在保护性能和隐私。LLM 触发频率很低，并在设备本地运行，资源消耗也得到精心管理。

只有启用增强保护模式的用户才会将其 LLM 生成的安全信号发送到安全浏览，而标准保护用户则会间接受益于更新的阻止列表。

谷歌 Chrome 集团产品经理 Jasika Bawa 和谷歌搜索工程高级总监 Phiroze Parakh 在 5 月 8 日的公开声明中表示：“Gemini Nano 的 LLM 非常适合这种用途，因为它能够提炼网站的多样性和复杂性，帮助我们更快地适应新的诈骗手段。”

运行设备 LLM 的好处

根据 Google 安全博客上的更详细报告，除了比远程托管 LLM 要求更低之外，利用设备上的 LLM 还有多种好处。

首先，此功能在本地运行时可使 Google 检测到用户遇到的威胁。

Google Chrome 安全团队写道：“我们发现恶意网站的平均存在时间不到 10 分钟，因此设备上的保护使我们能够检测并阻止以前未抓取过的攻击。”

 “基于设备的方法还使我们能够从用户的角度来看待威胁。网站可以针对不同的用户呈现不同的内容，这通常是出于合法目的（例如，为了适应设备差异、提供个性化服务、提供时效性内容），但有时也出于非法目的（例如，为了逃避安全爬虫的检测）——因此，了解网站如何向真实用户呈现自身，可以增强我们评估网络的能力。”

除了发布此公告之外，谷歌还为 Android 版 Chrome 推出了新的人工智能警告。

当设备上的机器学习模型标记通知时，用户将收到警告，允许他们取消订阅或查看被屏蔽的内容。如果用户认为警告有误，它还提供了一个选项，允许网站在未来接收通知。

这些功能是在谷歌两个多月前在 Android 信息应用中推出人工智能诈骗检测功能，以及去年推出诈骗电话标记功能之后推出的。

谷歌打击搜索诈骗报告

最后，谷歌于 5 月 8 日发布了最新的《打击搜索诈骗》报告。

在该文件中，该公司声称，公司对人工智能诈骗检测系统的投资以及对分类器的改进使其能够捕获比以前多 20 倍的诈骗页面。

谷歌还表示，它发现冒充航空公司客户服务提供商的诈骗分子数量显著增加，并声称已成功在搜索结果中将此类诈骗减少了 80% 以上。