行業新聞與博客

谷歌已開始將其設備上的大型語言模型 (LLM) Gemini Nano 集成到最新版本的 Chrome 瀏覽器中，以打擊在線垃圾郵件、詐騙和網絡釣魚活動。

在發佈其瀏覽器的最新版本 Chrome 137 時，谷歌宣佈正在試驗設備上的 LLM，作為新瀏覽器版本安全瀏覽服務的增強保護模式中的額外保護層。

Chrome 的增強保護模式是 Google 安全瀏覽的最高級別，該公司聲稱與標準保護模式相比，它提供了兩倍的防網絡釣魚和詐騙保護。

雖然 Gemini Nano 的使用目前僅限於打擊 Chrome 桌面上的技術支持詐騙，但 Google 計劃擴展此功能以檢測其他類型的詐騙，包括包裹追蹤和未付費用詐騙。

預計該功能也將於 2025 年晚些時候在 Android 版 Chrome 上推出。

Gemini Nano 打擊技術支持詐騙

在 Chrome 安全瀏覽服務中使用 Gemini Nano 可以利用 LLM 生成信號，安全瀏覽會使用這些信號對潛在危險網站（例如技術支持詐騙）做出更高置信度的判斷。

當用户訪問潛在惡意頁面時，Chrome 設備上的 Gemini Nano LLM 會評估頁面內容，以提取安全信號，例如意圖。這些信息會被髮送到“安全瀏覽”功能，最終判定該頁面是否為詐騙頁面。如果被認定為威脅，Chrome 會顯示警告。

該流程旨在保護性能和隱私。LLM 觸發頻率很低，並在設備本地運行，資源消耗也得到精心管理。

只有啓用增強保護模式的用户才會將其 LLM 生成的安全信號發送到安全瀏覽，而標準保護用户則會間接受益於更新的阻止列表。

谷歌 Chrome 集團產品經理 Jasika Bawa 和谷歌搜索工程高級總監 Phiroze Parakh 在 5 月 8 日的公開聲明中表示：“Gemini Nano 的 LLM 非常適合這種用途，因為它能夠提煉網站的多樣性和複雜性，幫助我們更快地適應新的詐騙手段。”

運行設備 LLM 的好處

根據 Google 安全博客上的更詳細報告，除了比遠程託管 LLM 要求更低之外，利用設備上的 LLM 還有多種好處。

首先，此功能在本地運行時可使 Google 檢測到用户遇到的威脅。

Google Chrome 安全團隊寫道：“我們發現惡意網站的平均存在時間不到 10 分鐘，因此設備上的保護使我們能夠檢測並阻止以前未抓取過的攻擊。”

 “基於設備的方法還使我們能夠從用户的角度來看待威脅。網站可以針對不同的用户呈現不同的內容，這通常是出於合法目的（例如，為了適應設備差異、提供個性化服務、提供時效性內容），但有時也出於非法目的（例如，為了逃避安全爬蟲的檢測）——因此，瞭解網站如何向真實用户呈現自身，可以增強我們評估網絡的能力。”

除了發佈此公告之外，谷歌還為 Android 版 Chrome 推出了新的人工智能警告。

當設備上的機器學習模型標記通知時，用户將收到警告，允許他們取消訂閲或查看被屏蔽的內容。如果用户認為警告有誤，它還提供了一個選項，允許網站在未來接收通知。

這些功能是在谷歌兩個多月前在 Android 信息應用中推出人工智能詐騙檢測功能，以及去年推出詐騙電話標記功能之後推出的。

谷歌打擊搜索詐騙報告

最後，谷歌於 5 月 8 日發佈了最新的《打擊搜索詐騙》報告。

在該文件中，該公司聲稱，公司對人工智能詐騙檢測系統的投資以及對分類器的改進使其能夠捕獲比以前多 20 倍的詐騙頁面。

谷歌還表示，它發現冒充航空公司客户服務提供商的詐騙分子數量顯著增加，並聲稱已成功在搜索結果中將此類詐騙減少了 80% 以上。