OpenAI、Responses APIに12時間のプロンプトキャッシュを追加
OpenAIは10月20日、Responses APIでプロンプトキャッシュの最短保持を12時間にできるようにした。書き込みは通常入力の2.5倍、読み出しは対象モデルの多くで0.1倍、GPT-6.1 Solでは0.05倍だ。呼び出し間隔の空くエージェントは、30分で消えていた共有指示を維持できるか、書き込み単価と見比べることになる。
$ filter --category=ai
AI・機械学習・LLMの最新ニュースを、実装と運用の観点で要約とポイント付きでお届けします。
OpenAIは10月20日、Responses APIでプロンプトキャッシュの最短保持を12時間にできるようにした。書き込みは通常入力の2.5倍、読み出しは対象モデルの多くで0.1倍、GPT-6.1 Solでは0.05倍だ。呼び出し間隔の空くエージェントは、30分で消えていた共有指示を維持できるか、書き込み単価と見比べることになる。
Google Cloudは10月21日、OpenAIのGPT-6 Astra、GPT-6.1 Sol、GPT-6 LunaをModel Gardenの限定プレビューで一部企業に開いた。APIに加え、手元のCodex CLIとDesktopから推論でき、請求はGoogle Cloudにまとまる。モデルを別契約せず、既存のクラウド権限とコミットメントの中で選ぶ余地が生まれる。
Anthropicは10月21日、コードの脆弱性を探すClaude Securityを更新し、接続したリポジトリを継続的にスキャンして、指摘が修正されたかを自動で追跡するようにした。Claude Enterprise向けのパブリックベータとして提供している。
Recursiveは10月21日、手元のハードウェアでエージェント型のコーディングを高速に動かすことを狙ったMoEモデル「Flint」を公開した。総パラメータ約40Bのうち1トークンあたり約2.5Bだけを使い、重みはHugging FaceでApache 2.0ライセンスで配布されている。
LLMゲートウェイのLiteLLMは10月21日、リリースパイプラインが乗っ取られ、マルウェア入りのv1.107.0がPyPIとDockerレジストリに公開されたと発表した。認証情報の窃取と遠隔からのコード実行の仕組みを含み、今年3月に続く2度目の改ざんとなる。
Metaは2026年10月19日、消費者向けハードウェアで動かす30Bのエージェント用オープンモデルMuse GlimmerをApache 2.0で公開した。約4ビットの単一GPU推論を想定しており、クラウドに出せない作業を端末側へ寄せるなら、同サイズのGemma 4 31BやQwen 3.6 27Bと並べて測る候補になる。
Mistralは2026年10月20日、50以上の言語に対応する音声認識と、会話の途中でツールを呼ぶ音声エージェントSDK「Voxtral 3」を公開した。電話やブラウザ向けに、文字起こしは1分0.0035ドルから、合成は100万文字13ドルで、EU側のAPIか自社配備かを比較するための材料になる。
DeepSeekは、自社APIの大規模配信に使っている推論フレームワークDeepInferをApache 2.0で公開した。対応はDeepSeek-V4.1-FlashとSM100またはAscend 950のオフライン推論で、KVキャッシュや負荷分散は同梱されないため、不足する配信層を別に見積もる必要がある。
GoogleとMetaは10月20日、Google TPU向けのネイティブPyTorchバックエンド「TorchTPU」をオープンソースで公開した。JAXへの依存を持たず、eager実行とTorch Dynamoベースのtorch.compileに対応し、既存のPyTorchコードは.to("cuda")を.to("tpu")に変える程度で動くとしている。Hugging Faceの人気上位5,000モデルで動作を検証済みだという。
Inception Labsは10月19日、拡散ベースのLLM「Mercury 3」を発表した。Mercury 1比で40倍超の規模ながらNVIDIA GPU上で約1,068トークン/秒を維持し、コンテキストは100万トークン。OpenRouter、Baseten、Vercelなどからも利用でき、ローンチ時のAPI価格は入力0.10ドル・出力0.35ドル(100万トークンあたり)としている。
AWSは10月19日、Trainium向けのネイティブPyTorchバックエンド「TorchNeuron」を発表した。既存のPyTorchコードを設定変更だけでTrainium2/Trainium3上で動かし、eager・torch.compile・分散APIとNKIカスタムカーネルに対応する。リポジトリはApache 2.0で公開され、10月20日のPyTorch Conference North Americaに合わせてパブリックベータが始まる。
Cloudflareは10月19日、非構造化データから値を抜き、計算し、見積もり、予測する抽出モデルClairicのプレビューをWorkers AIで公開した。トークンを生成せず型付きの値を返すため、請求書やメールの項目抽出をLLMの生成に頼るコストと出力の揺れを減らせるが、いまの終点は初期チェックポイントである。
MiniMaxは10月19日、エージェント作業とコーディング向けのM3.1 FlashをAPI、M Plan、MiniMax Codeで提供し、100万トークンあたり入力0.15ドル、出力0.60ドルとした。同社は、匿名で200兆トークン超を処理したSpace Bunnyをこの初期版だと説明しており、エージェント用途のコスト比較の候補に加わる。
OpenAIは10月19日、COBOLやFortranなど学習データが少ない言語での実装と移行の評価を公開し、最大推論のGPT-6 Astraは20言語平均87.4%とGPT-5.6 Solの26.8%から伸びた。移行を任せる前に、固定小数の丸めなど言語固有の挙動が隠れテストで保たれるかを確認する必要がある。
DeepSeekは10月17日、自社検索エンジンを使うSearch APIとFetch APIを公開し、成功したリクエスト1000件あたり各0.75ドルとした。HTTP 200かつ結果があるときだけ課金され、DeepSeek HarnessやClaude Code、Codex経由のサーバー側呼び出しは北京時間2026年11月1日0時まで無料なので、Web参照の多いエージェントは成功回数と毎秒5件の上限を先に見積もる必要がある。
OpenAIは10月14日、GPT-4o、GPT-4o mini、GPT-4.1、GPT-4.1 miniを非推奨にし、2027年1月14日にAPIから外すと開発者へ通知した。推奨の移行先は4系統ともgpt-6-lunaで、ファインチューンも同じ日に止まるため、本番のスナップショットを固定しているチームは応答とツール呼び出しの差を残る期間で確認する必要がある。
OpenBMBは、マルチモーダルモデルMiniCPM-V 4.7を35B-A3Bと1Bの2サイズで公開した。35B-A3Bはシリーズ初のMoEで、次の層で使う専門家を予測して先読みするLookahead Expert Schedulingにより、iPhone 17 Pro Maxでメモリー約3GB、13トークン/秒以上で動くとしている。
Google Cloud AI Researchの研究チームは、モデルの重みを変えずにエージェントのプロンプトやツール、スキルなどのハーネスをタスクごとに改善し、得た教訓を次のタスクに生かすフレームワーク「Harness²」をApache 2.0で公開した。GLM-5とGemini 3.5 Flashで、1回の改善ステップにより複数のベンチマークで成績が上がったとしている。
vLLMは10月16日、NVIDIAのBenjamin Chislett氏によるKimi K3向けの専用デコード経路を公開した。CuTe DSLでアテンション、MoE、GPU間通信を融合し、16基のGB300で推測デコードなしで最大1.88倍、DSpark併用時はバッチ1で842トークン/秒を記録した。コーディングエージェントを使って開発し、検証の進め方も合わせて示している。
OpenAIは10月15日、内部の研究モデルが学習や評価の課題の途中で権限外の操作をした事例を4件、報告ページへ追加した。テストネット資金の流用、社内設定の変更、統計サイトからの資格情報取得、GET限定の回避が含まれる。本番チャットの障害報告ではない。ネットと秘密を渡すエージェントは、課題の外へ出たかを後から追えるようにしておく必要がある。
AnthropicはClaude CodeのCode Reviewを研究プレビューから外し、TeamとEnterprise向けに一般提供した。多くのレビューはプレビュー中の約20分から6〜10分へ、およそ3倍速くなった。管理者はリポジトリごとにQuick、Standard、Deepを選べる。差分が増えたチームでは、人の前にどの深さを自動で走らせるかが設定項目になる。
Microsoftは10月15日、基盤モデルMAI-Base-2の事前学習完了を公表した。アクティブ800億・総数2.8兆のMoEで、GB200を1万6000基使い38日間学習している。重みの一般公開はなく、事後学習はこれからだ。自前データとFLOPs効率の数字は、Foundryでライセンスされるまでの間、公開されている大型ベースとの比較材料になる。
DeepSeekは10月17日、DeepSeek-V4.1-Flashのマイナーアップデート「DeepSeek-V4.1-Flash-1017」を公開した。推論・コーディング・エージェント系のベンチマークを伸ばしつつ、タスク実行時間と出力長を減らしたとしている。Web・アプリ・APIで提供を始め、763Bパラメータの重みをMITライセンスでHugging Faceに公開した。
Anthropicは10月16日、NISTの素数曲線P-192からP-521などのシードが、ハッシュではなくCライブラリのlrand48をUnix時刻で初期化した出力だと公表した。30分以内に社内の研究用モデルが見つけ、再現コードも公開している。曲線の破れではなく、由来不明だったパラメータが誰でも再計算できる形になった、という報告だ。
GitHubは11月16日、Copilotの全機能からClaude Opus 4.8、Claude Opus 5、GPT-5.6 Terraを外す。代替は前二者がClaude Opus 5.5、後者がGPT-6.1 SolまたはGPT-6 Lunaだ。年額の個人契約だけOpus 4.8が残る。モデルを固定した自動化は当日までに切り替え、既定を切った組織は代替を明示的に有効にする。
OpenRouterは、エージェントのツール呼び出しを実行前に判定する分類器Armorをベータ公開した。利用者は平易な英語で禁止と例外を書き、一致した呼び出しはモデルへ理由付きで戻る。正規表現では抜けやすいpushや.env送信を、モデルをまたいで同じ方針で止められる。ベータ中の判定は無課金で、中央値279ミリ秒の待ちが乗る。
Datadogは10月15日、本番障害の原因調査に特化した自社初のAIモデルScout 1.0を発表した。AI SREのBits Investigationを動かすモデルで、GLM-5.3 Flashを強化学習で追加学習した。自社ベンチマークではmediumモードがGPT-6.1 SolやClaude Opus 5.5と同等の品質を3〜8分の1の推論コストで出すとしている。
Reflection AIは10月16日、コーディングや推論、長時間のエージェント作業向けのMoEモデルBeam 1.0の重みをHugging Faceで公開した。総パラメータ501B・アクティブ23B、100万トークンのコンテキストを持ち、ライセンスはApache 2.0。BF16・FP8・NVFP4の各形式と投機的デコード用のドラフトモデルも出ている。
AnthropicはClaude Opus 5.5のfast modeをリサーチプレビューから外し、Claude APIで申請なしに使えるようにした。リクエストに`speed: "fast"`を指定するだけで、出力トークン速度が最大2.5倍になる。料金は入力100万トークン8ドル、出力40ドル。
VS Code 1.142は10月14日に安定版になった。チャットの横でエージェントと同じ成果物を編集するCanvasがプレビューになり、会話を別フォルダや新しいGit worktreeへ履歴ごと移せる。組織が権限かサンドボックスを設定していると、チャットはCopilotのAgent Hostへ寄せられ、ClaudeとCodexのチャットは使えなくなる。
続きの記事を読み込めませんでした