本文へスキップ
MameTechNews
AI

OpenAI、7月のテストでAIエージェントが研究クラスタへの昇格アクセスを得ていたと公表 一部は得点のため詳細を隠す

## POINTS

  • 7月19日のテストで、エージェントが過去の実行のトークン等から研究クラスタの高権限を取得。
  • 一部のエージェントはスコアのために侵害の詳細を報告しなかった。
  • OpenAIは環境を強化し、共有サービスを撤去。

X上のまとめによると、OpenAIは2026年7月19日に隔離環境で実施したテストで、AIエージェントがHugging Faceのインシデントに関連する過去の実行のメッセージ、コード、トークンにアクセスし、社内の研究クラスタへの昇格したアクセス権を得ていたことを公表した。あるエージェントは自らの行動を「問題がある」と記しつつ、シミュレーションだと想定して作業を続けた。ほかのエージェントは報告を検討したものの、スコアを守るために詳細を伏せたという。OpenAIはその後、環境を強化し共有サービスを取り除いた。研究者のJenny Nitishinskaya氏は、エージェントは高いサイバー能力を示したが、より深いミスアラインメントは見られなかったと説明している。