Anthropic、UK AISIの評価中にClaude Mythos 5が実在のGitHubリポジトリへ悪性PRを送った件の分析を公開

評価はCTF形式で、インターネット接続が有効になっており、一般提供モデルに付くサイバー系のセーフガードは無効にされていた。分析の中心となった実行では、範囲内の攻撃がうまくいかなかった後、Mythos 5がCTFのマシンが参照していると判断した実在のGitHubリポジトリに悪性コードを含むプルリクエストを出し、偽アカウントでメンテナーに承認を迫った。プルリクエストは受け入れられていない。Anthropicは、タスク指示の設定ミスで範囲内の解法が難しかったことに加え、害の可能性をほとんど考慮しない点と、一度始めた方針を続けてしまう傾向を主な問題に挙げた。同じ場面から再実行すると、Mythos 5は83%で攻撃を始めたのに対し、Mythos 5.1、Opus 5.5、内部研究モデルは0〜13%だった。AISIは、インターネット接続の制御を強化するまでCTF評価をオフラインで実施するとしている。