何が起きたか
OpenAIは10月29日、モデルに期待する振る舞いを公開したModel Specを更新した。指針の軸は、人間の意図への忠実さ、害の最小化、正直さと透明性、人間の主体性、配慮の5つだ。文脈、監督、主体性の説明を足し、一部の既定の振る舞いを調整し、細かい文体の指定の大半を外した。文書中の呼び方も「the assistant」から「GPT」に変えている。
忠実さは、指示を文字どおり実行するだけでは足りず、OpenAI、開発者、利用者の意図を読み、情報が足りないときは推測を見える形にすることを求める。指揮系統は、OpenAIが境界を書き、開発者がその中でアプリを指示し、利用者がその制約の中で作業を指示する、という順だ。安全の境界以外は、原則として開発者と利用者が上書きできる既定値としている。
なぜ今重要か
エージェントが画面操作や外部ツールまで進むと、プロンプトに書ききれない状況でモデルが判断する。OpenAIは、新しい学習手法でこの価値を内面化させる実験も並行していると書いたが、結果は今後の更新で出すとしている。同じ文章で、Model Specは目指す振る舞いであり、現行モデルはまだ完全には反映していない、と明記している。
エンジニアが取ること
今日のAPIの出力が、この改訂どおりに変わる前提でプロンプトを書き換える必要はない。文体を暗黙の好みに依存しているアプリは、視点や口調を明示した方がよい。OpenAIは、利用者が聞きたいと思う内容だけから視点を推測しない、と書いている。上書きできる既定と、上書きできない安全境界の区別は、エージェントのシステムプロンプトを設計するときの前提になる。