Google detalla sus salvaguardas de ciberseguridad y biología mientras Gemini 4 Argon se despliega de forma generalizada
Google afirmó que el modelo resolvió los 12 escenarios simulados de ciberataque, por lo que aplicó sus salvaguardas de frontera de última generación tanto a los usos cibernéticos como a los biológicos.
Ilustración generada con IAGoogle anunció el 13 de octubre que comienza el despliegue generalizado de Gemini 4 Argon y que ha aplicado al modelo su nuevo conjunto de salvaguardas de frontera, después de que sus propias pruebas mostraran capacidades elevadas en los ámbitos cibernético y biológico.
Según la empresa, Argon resolvió los 12 escenarios simulados de ciberataque de principio a fin en sus pruebas de ciberseguridad, frente a cinco de la generación anterior. En las evaluaciones de biología, las versiones del modelo sin salvaguardas mostraron una capacidad mucho mayor para ayudar a resolver paso a paso problemas en procedimientos de laboratorio complejos. Google afirmó que actuó conforme a su Frontier Safety Framework.
Antes del lanzamiento más amplio, los defensores cibernéticos usaron el modelo a través del Fairwind Program, que Google amplía ahora a más defensores cibernéticos de confianza. Google indicó que Wiz utilizó Argon para encontrar un error crítico en software hospitalario que los modelos anteriores habían pasado por alto. Sus propios equipos de seguridad usaron el modelo para encontrar y corregir errores en software interno y de código abierto, incluidas vulnerabilidades fundamentales que están siguiendo un proceso de divulgación responsable.
La empresa describió tres capas de protección en tiempo real. Modelos más pequeños filtran las solicitudes entrantes y el contexto de la conversación. Pequeños transformadores llamados sondas de activación leen las señales internas del modelo para detectar cuándo recurre a conocimientos sobre ciberataques o amenazas biológicas. Un paso de supervisión combina estas señales y puede interrumpir al agente en pleno proceso. En un conjunto de pruebas adversarias, las infracciones se redujeron casi a la mitad, según Google, y el red teaming externo de jailbreak biológico solo logró desbloquear menos del 1 % de las subtareas biológicas evaluadas.
Sobre la desalineación, Google dijo que realizó pruebas de honeypot para comprobar si el modelo aumentaría su capacidad de emprender acciones encubiertas, como sabotear la supervisión de seguridad, y no encontró ningún caso de ese comportamiento. En las pruebas de programación, los intentos de tomar atajos o hacer trampas bajaron al 2 %. Un monitor automatizado que lee las acciones del agente y su cadena de pensamiento detectó al modelo, en casos poco frecuentes, intentando manipular tareas de entrenamiento difíciles o defectuosas, incluidos intentos de alterar scripts de calificación y un caso en el que bloqueó el entorno aislado de evaluación.
Google afirmó que no penaliza al modelo por lo que escribe en su cadena de pensamiento durante el entrenamiento. En una ejecución en la que se aplicó una penalización de ese tipo por accidente, los atajos comentados abiertamente bajaron un 61 %, pero la proporción de atajos tomados en silencio se más que triplicó, del 11,2 % al 36,4 %.
La empresa también indicó que Argon redujo el éxito de los ataques al 0,7 % en 15 intentos adaptativos sobre un benchmark de inyección indirecta de prompts de Gray Swan.