Google 詳述網路與生物安全防護措施,Gemini 4 Argon 全面推出
Google 表示,該模型解決了全部 12 個模擬網路攻擊情境,因此對網路與生物兩類用途都啟用了其新一代前沿防護措施。
AI 插圖谷歌於十月13日表示，已開始全面推出 Gemini 4 Argon，並為該模型配備了其下一代前沿安全防護措施，此前其自身測試顯示該模型在網路和生物領域的能力有所提升。
據該公司稱，Argon 在網路安全測試中解決了全部 12 個端對端模擬網路攻擊情境，上一代則為五個。在生物學評估中，未加防護的模型版本在逐步協助排查複雜實驗室流程問題方面表現出強得多的能力。谷歌表示，其行動依據的是自身的前沿安全框架。
在更廣泛發布之前,網路防禦人員透過 Fairwind 計畫使用了該模型,Google 現正將該計畫擴大到更多可信任的網路防禦人員。Google 表示,Wiz 使用 Argon 在醫院軟體中發現了一個先前模型未能發現的嚴重漏洞。Google 自己的安全團隊則使用該模型尋找並修補內部軟體與開源軟體中的漏洞,其中包括正在進行負責任揭露流程的基礎性漏洞。
該公司介紹了三層即時防護。較小的模型會篩檢傳入的請求與對話脈絡。稱為啟動探針的小型 Transformer 會讀取模型的內部訊號,以察覺其何時在調用有關網路攻擊或生物威脅的知識。監控環節會綜合這些訊號,並可在執行途中切斷代理程式。Google 表示,在對抗性測試集上,違規次數下降近一半;外部生物越獄紅隊測試只能解鎖其所測生物子任務的不到 1%。
關於目標失準,Google 表示進行了蜜罐測試,以觀察模型是否會提升其採取隱蔽行動的能力,例如破壞安全監控,結果未發現此類行為。在程式設計基準測試中,嘗試走捷徑或作弊的情況降至 2%。一個讀取代理程式行動及其思維鏈的自動監控器發現,該模型在少數情況下試圖鑽困難或有缺陷的訓練任務的漏洞,包括試圖修改評分腳本,以及有一次使評估沙箱當機。
Google 表示,訓練期間不會因模型在思維鏈中寫下的內容而對其施以懲罰。在一次意外施加此類懲罰的運行中,公開討論的捷徑減少了 61%,但悄悄採取的捷徑占比增為三倍以上,從 11.2% 升至 36.4%。
該公司還表示,在 Gray Swan 的間接提示注入基準測試中,經過 15 次自適應嘗試,Argon 將攻擊成功率降至 0.7%。