IntelはOpen Compute Project Global Summitで、エージェント向け推論の経済性をテーマにGPU Dシリーズの技術詳細を公開した。Nic Dubé氏の基調講演は10月13日10時30分(太平洋時間)だ。製品は開発コードCrescent Islandで、Xe3Pを使う。
数字は、FP8で1.3ペタフロップス、メモリ帯域1.5TB/s、電力枠350W、標準のPCIeと空冷だ。単一カードで最大3000億パラメータ、8枚構成で1兆パラメータ超を想定し、マルチテナントの推論からロボティクスなどの低遅延までを対象にしている。メモリは本文の「最大480GB」と注釈を分けて読む。注釈では、IntelブランドのPCIeカードはLPDDR5Xが160GBで、ODMが自社ブランドのカードを最大480GBまで構成できる、とある。パラメータ数の上限が160GBのカードにそのまま当てはまるとは、注釈は書いていない。
一般提供の時期と価格はこの発表に無い。顧客へのサンプル出荷は進んでおり、OEM、ODM、ネオクラウド、ソフトベンダーと、検証済みプラットフォームとソフト統合を進めるとしている。ソフトは共通のXeスタックで既存のIntel GPU向けアプリを持ち込み、業界標準のフレームワークとサービングエンジンへ上流から載せる方針だ。Xeon向けのIntel AI for Enterprise Agent Toolkitは今日デプロイでき、GPUへの拡張を想定している。
同じ場ではXeon 6+のラックも示された。一部構成は1ラックで4万6000コア超、ラック電力133.45kWまで積む。推論の調達では、液冷専用ラックを前提にしないPCIeカードとして、容量と電力を見積もる材料になる。160GBと480GBのどちらを前提にするかで、1枚に載るモデルの大きさが変わる。