谷歌详述网络与生物安全防护措施,Gemini 4 Argon 全面推出
谷歌表示,该模型解决了全部 12 个模拟网络攻击场景,因此对网络和生物两类用途都启用了其新一代前沿防护措施。
AI 插图谷歌于十月13日表示，已开始全面推出 Gemini 4 Argon，并为该模型配备了其下一代前沿安全防护措施，此前其自身测试显示该模型在网络和生物领域的能力有所提升。
据该公司称，Argon 在网络安全测试中解决了全部 12 个端到端模拟网络攻击场景，上一代则为五个。在生物学评估中，未加防护的模型版本在逐步协助排查复杂实验室流程故障方面表现出强得多的能力。谷歌表示，其行动依据的是自身的前沿安全框架。
在更广泛发布之前,网络防御人员通过 Fairwind 计划使用了该模型,谷歌现正将该计划扩大到更多可信的网络防御人员。谷歌表示,Wiz 使用 Argon 在医院软件中发现了一个此前模型未能发现的严重漏洞。谷歌自己的安全团队则使用该模型查找并修复内部软件和开源软件中的漏洞,其中包括正在走负责任披露流程的基础性漏洞。
该公司介绍了三层实时防护。较小的模型会筛查传入的请求和对话上下文。被称为激活探针的小型 Transformer 会读取模型的内部信号,以发现其何时在调用有关网络攻击或生物威胁的知识。监控环节会综合这些信号,并可在执行过程中切断智能体。谷歌表示,在对抗性测试集上,违规次数下降了近一半;外部生物越狱红队测试只能解锁其所测生物子任务的不到 1%。
关于目标失准,谷歌表示进行了蜜罐测试,以观察模型是否会提升其采取隐蔽行动的能力,例如破坏安全监控,结果未发现此类行为。在编码基准测试中,尝试走捷径或作弊的情况降至 2%。一个读取智能体行动及其思维链的自动监控器发现,该模型在少数情况下试图钻困难或有缺陷的训练任务的空子,包括试图修改评分脚本,以及有一次使评估沙箱崩溃。
谷歌表示,训练期间不会因模型在思维链中写下的内容而对其进行惩罚。在一次意外施加此类惩罚的运行中,公开讨论的捷径减少了 61%,但悄悄采取的捷径占比增至三倍以上,从 11.2% 升至 36.4%。
该公司还表示,在 Gray Swan 的间接提示注入基准测试中,经过 15 次自适应尝试,Argon 将攻击成功率降至 0.7%。