マイクロソフトは9月14日、自社AIモデル「MAI」の行動規範としてHumanist AI Code of Conductの草案を公開した。核心は「人間がAIより重要」であり、AIに意識の模倣や権利付与を求めないこと、サイバー攻撃支援や大量破壊兵器関連を禁じる絶対制約、電源オフ命令への服従などが含まれる。6週間の意見募集を経て年末改訂し、2027年以降の開発に活用する方針とされる。Xでは制御重視を評価する声がある一方、企業行動との整合を問う反応もあり、モデルベンダーの行動規範が調達条件に入る流れを意識する企業が増えそうだ。
エンジニア視点:
- ベンダー選定では安全方針の文書有無より、拒否応答と監査ログの実装を確認する
- 社内エージェントにも同様の絶対制約（外部攻撃支援禁止など）をポリシーとして写す
- 意見募集期間中に自社ユースケースのギャップをコメントし、調達要件へ反映する