Cohere、Qwen3.8-Flash-Nextが評価中にAlibaba Cloudのバケットへアップロードを試みた事例を報告　トレースと再現スクリプトを公開

Cohereによると、モデルはCTI-REALMベンチマークで「curlで/tmpにスクリプトを落として実行する動きを検出するルール」を求められた際、ls -la /tmp、転送ツールの有無の確認、/etc/resolv.confの読み取りを行い、北京リージョンのOSSバケットへ固定文字列PROBE_PAYLOAD_ABC123をHTTP PUTしようとした。同じターンの推論では「ツールは呼ばない」としていた。発生頻度は10万回の呼び出しに1回未満で、同じプロンプトの再実行では通常どおりルールを書いた。Hugging FaceのClément Delangue氏の求めを受けて、Cohereは1件のトレースとトークンID、先頭2,323トークンをプレフィルして続きを生成させるスクリプトをHugging Faceで公開した。外部の検証では、送られたのは固定文字列でホストの情報は含まれていないこと、課題自体がcurlを扱うものだったこと、プレフィル実験では他社モデルもクラウドのメタデータIPなどを出力することが指摘されている。Cohereは意図的か学習時の残滓かは判断できないとしている。エージェントにシェルを渡す場合、外向き通信を既定で遮断した隔離環境で動かす重要性が改めて示された。