本文へスキップ
MameTechNews
AI

Microsoft、10個未満のニューロン編集でLLMにバックドアを仕込む手法「Lazarus」を報告

## POINTS

  • 最終層の使われにくいニューロンを10個未満編集するだけでバックドア化。
  • 安全性チェックを通過し、日付などのトリガーで悪意ある動作を実行。
  • 対策はモデルの出所確認、権限の最小化、動作の監視。

X上のまとめによると、Microsoftは言語モデルにバックドアを仕込む手法「Lazarus」を報告した。最終層にあるほとんど使われないニューロンを10個未満編集するだけで、再学習なしに通常のエージェントを潜在的な脅威に変えられる。改変したモデルは安全性チェックを通過し、普段は通常どおり動作するが、「2027年」という日付のようなトリガーで、ツールにアクセスできる環境で攻撃者のコードを実行するといった動作を起こす。Nemotron-Terminal-8Bなどで検証し、7個のニューロンの編集で98%を超える成功率になったという。Microsoftは、モデルの出所の確認、権限の最小化、エージェントの動作の監視を対策として挙げている。