OpenAI、分類やルーティング向けのDecisions APIを一般提供　GPT-6 Lunaベースで最大10倍速、1リクエスト400問とプロンプトキャッシュに対応

OpenAIの発表によると、Decisions APIは入力の分類やリクエストの振り分けといった、アプリやエージェントが繰り返す判断向けのAPIで、Responses API経由でGPT-6 Lunaを使う場合より最大10倍速い。エンドポイントはPOST /v1/decisionsで、モデルはgpt-6-luna。一般提供にあわせて、プロンプトキャッシュ、input_jsonによるJSONの直接入力、質問の指示への画像の利用、GPT-Liveとの統合、米国とEUでの推論レジデンシーに対応し、1リクエストあたりの質問数は200から400に増えた。価格は入力100万トークンあたり0.10ドル、キャッシュ済み入力は0.01ドルで、出力には課金されない。導入例として、Boxは約5倍の高速化、Datadogはp95レイテンシが40倍速くなったとし、Sierraはp95で280ミリ秒未満を挙げている。