Google illustra le misure di protezione per cyber e biologia mentre Gemini 4 Argon viene distribuito su larga scala
Google ha dichiarato che il modello ha risolto tutti i 12 scenari simulati di attacco informatico, perciò ha applicato le sue misure di protezione frontier di nuova generazione sia agli usi cyber sia a quelli biologici.
Illustrazione IAIl 13 ottobre Google ha dichiarato di avviare la distribuzione su larga scala di Gemini 4 Argon e di aver applicato al modello la sua serie di misure di protezione frontier di nuova generazione, dopo che i suoi test hanno mostrato capacità elevate negli ambiti cyber e biologico.
Secondo l'azienda, nei test di cybersicurezza Argon ha risolto tutti i 12 scenari simulati di attacco informatico end-to-end, contro cinque della generazione precedente. Nelle valutazioni di biologia, le versioni non protette del modello hanno mostrato una capacità molto maggiore di aiutare a risolvere passo dopo passo problemi in procedure di laboratorio complesse. Google ha dichiarato di aver agito nell'ambito del proprio Frontier Safety Framework.
Prima del rilascio più ampio, i difensori informatici hanno usato il modello tramite il Fairwind Program, che Google sta ora estendendo ad altri difensori informatici fidati. Google ha dichiarato che Wiz ha usato Argon per trovare un bug critico nel software di un ospedale che i modelli precedenti non avevano individuato. I suoi team di sicurezza hanno usato il modello per trovare e correggere bug nel software interno e open source, comprese vulnerabilità fondamentali che stanno seguendo un processo di divulgazione responsabile.
L'azienda ha descritto tre livelli di protezione in tempo reale. Modelli più piccoli esaminano le richieste in arrivo e il contesto della conversazione. Piccoli transformer chiamati sonde di attivazione leggono i segnali interni del modello per capire quando attinge a conoscenze su attacchi informatici o minacce biologiche. Una fase di monitoraggio combina questi segnali e può interrompere l'agente a metà del processo. Su un set di test avversariale, secondo Google le violazioni sono quasi dimezzate, e il red teaming esterno sui jailbreak biologici è riuscito a sbloccare meno dell'1% delle sottoattività biologiche testate.
Sul fronte del misalignment, Google ha dichiarato di aver eseguito test honeypot per verificare se il modello avrebbe aumentato la propria capacità di compiere azioni occulte, come sabotare il monitoraggio della sicurezza, e di non aver riscontrato alcun caso di tale comportamento. Nei benchmark di programmazione, i tentativi di prendere una scorciatoia o di barare sono scesi al 2%. Un monitor automatico che legge le azioni dell'agente e la sua catena di pensiero ha sorpreso il modello, in rari casi, mentre cercava di aggirare compiti di addestramento difficili o difettosi, inclusi tentativi di alterare gli script di valutazione e un caso in cui ha mandato in crash la sandbox di valutazione.
Google ha dichiarato di non penalizzare il modello per ciò che scrive nella sua catena di pensiero durante l'addestramento. In un'esecuzione in cui una tale penalizzazione è stata applicata per errore, le scorciatoie discusse apertamente sono diminuite del 61%, ma la quota di scorciatoie prese in silenzio è più che triplicata, passando dall'11,2% al 36,4%.
L'azienda ha inoltre dichiarato che Argon ha ridotto il successo degli attacchi allo 0,7% su 15 tentativi adattivi in un benchmark di prompt injection indiretta di Gray Swan.