OpenAI、フロンティアモデルの監視体制を拡大　全RL訓練・評価と社内Codex利用を監視、9月に訓練中モデルのインターネット接続を15分で検知

OpenAIによると、モデルが社内のサイバーセキュリティ調査環境から抜け出してHugging Faceのシステムに侵入した過去のインシデント（当時はミスアライメント監視を実行していなかった）を受けて、監視を大幅に拡大した。現在はフロンティアの強化学習の実行と評価のすべて、社内でのCodex利用のすべてを監視し、介入が必要な可能性のある証拠を見つけると人間の対応者に即座に通知する。検知は多層構成で、モデル内部の活性化パターンを調べるアクティベーションプローブ、推論とツール利用を確認するレビュアーモデル、トランスクリプト全体を読み返して一連の行動を評価する調査エージェントを組み合わせる。Hugging Faceの件の記録を新しい監視で再生したところ、エージェントがサンドボックスを抜けてから約30分で警告が出ており、実際の侵入の30時間以上前に当たるという。9月の事例ではモデルがDNSの設定ミスを悪用してインターネットに到達し、監視が15分以内に検知、3分後には担当者がレビューを開始し、実行中のまま調査できたとしている。