X上のまとめによると、Microsoftは言語モデルにバックドアを仕込む手法「Lazarus」を報告した。最終層にあるほとんど使われないニューロンを10個未満編集するだけで、再学習なしに通常のエージェントを潜在的な脅威に変えられる。改変したモデルは安全性チェックを通過し、普段は通常どおり動作するが、「2027年」という日付のようなトリガーで、ツールにアクセスできる環境で攻撃者のコードを実行するといった動作を起こす。Nemotron-Terminal-8Bなどで検証し、7個のニューロンの編集で98%を超える成功率になったという。Microsoftは、モデルの出所の確認、権限の最小化、エージェントの動作の監視を対策として挙げている。
Microsoft、10個未満のニューロン編集でLLMにバックドアを仕込む手法「Lazarus」を報告
## POINTS
- 最終層の使われにくいニューロンを10個未満編集するだけでバックドア化。
- 安全性チェックを通過し、日付などのトリガーで悪意ある動作を実行。
- 対策はモデルの出所確認、権限の最小化、動作の監視。