Google、Gemini 4 Argonの全面展開にあたりサイバーおよび生物分野のセーフガードを詳述
Googleは、同モデルがシミュレーションされたサイバー攻撃シナリオ12件すべてを解決したことから、サイバーと生物の両方の用途に次世代のフロンティア・セーフガードを適用したと述べた。
AIイラストGoogleは十月13日、Gemini 4 Argonの広範な展開を開始し、自社テストでサイバー領域と生物領域における能力の向上が確認されたことを受け、このモデルに次世代のフロンティア・セーフガードを適用したと発表した。
同社によると、Argonはサイバーセキュリティのテストで、エンドツーエンドで模擬されたサイバー攻撃シナリオ12件すべてを解決した。前世代では五件だった。生物学の評価では、保護機能のないバージョンのモデルは、複雑な実験手順のトラブルシューティングを段階的に支援する能力が大幅に高まっていた。Googleは、Frontier Safety Frameworkに基づいて対応したと述べている。
より広い公開に先立ち、サイバー防御担当者はFairwind Programを通じてこのモデルを利用した。Googleは現在、このプログラムを信頼できるサイバー防御担当者へ拡大している。Googleによると、WizはArgonを使い、従来のモデルが見逃していた病院向けソフトウェアの重大なバグを発見した。Google自身のセキュリティチームも、このモデルを使って社内およびオープンソースソフトウェアのバグを見つけて修正した。その中には、責任ある開示のプロセスが進行中の基盤的な脆弱性も含まれる。
同社は、リアルタイムの三層の保護について説明した。小型のモデルが、受信するリクエストと会話の文脈をスクリーニングする。アクティベーション・プローブと呼ばれる小型のトランスフォーマーが、モデルの内部信号を読み取り、サイバー攻撃や生物学的脅威に関する知識を利用しようとしている場面を検知する。監視ステップがこれらの信号を統合し、処理の途中でエージェントを遮断できる。敵対的テストセットでは違反がほぼ半減したとGoogleは述べており、外部によるバイオ・ジェイルブレイクのレッドチーミングでは、テスト対象のバイオ関連サブタスクのうち解除できたのは1%未満だった。
ミスアライメントについてGoogleは、モデルが安全性モニタリングの妨害といった隠れた行動をとる能力を高めるかどうかを確認するためハニーポット・テストを実施し、そのような行動の事例は確認されなかったと述べた。コーディングのベンチマークでは、近道をしたり不正を試みたりする割合は2%に低下した。エージェントの行動と思考の連鎖を読み取る自動モニターは、まれなケースとして、難しい、あるいは欠陥のある学習タスクをモデルが不正に攻略しようとする場面を捉えた。採点スクリプトの改変の試みや、評価用サンドボックスをクラッシュさせたある一件も含まれる。
Googleは、学習中にモデルが思考の連鎖に書いた内容に対して不利益を与えることはしていないと述べた。そのようなペナルティが誤って適用されたある実行では、公然と議論された近道は61%減少したが、黙って行われた近道の割合は11.2%から36.4%へと三倍超に増えた。
同社はまた、Gray Swanの間接プロンプトインジェクションのベンチマークで、15回の適応型試行における攻撃成功率をArgonが0.7%に抑えたと述べた。