Anthropicは11月2日、推論が宣言された重みから出たことを暗号で示す研究試作FlashProveを公開した。方式はzkSNARKで、提供者は事前に重みへ短いコミットメントを出し、応答のたびにその重みが入力からそのトークンを出した証明を添える。検証者は重みを持たず、GPUも要らない。コード、Leanによる証明、仕様はApache 2.0で、研究の途中経過として公開されている。
測定は公開の4bit版Llama 4 Maverick（約4000億パラメータのMoE、トークンあたり約170億）で行われた。証明側はH100が1枚とCPU 24コア。1,024トークンの要求を24件まとめると約223秒で、毎秒110トークン、証明は1件あたり18.78MBだった。検証は24スレッドのCPUで17秒、単スレッドでは21秒。コミットメントは約6.5MBで、技術上の理由から約1600万リクエストごとに作り直す。同じモデルをvLLMで動かした場合と比べ、証明はGPU時間でおよそ70倍から95倍かかる。
証明は推論と同時ではなく、後からまとめて作る。重みと、どの専門家が動いたかは隠れるが、モデルの構造は隠さない。日常のチャットを置き換えるものではなく、ルーティング先のすり替わりや、評価したモデルと配信モデルの不一致を第三者の再実行なしに検出したい場合の選択肢になる。