本文へスキップ
MameTechNews
AI

Recursive、ローカル向けコーディングモデルFlintをApache 2.0で公開 総40B・アクティブ2.5BのMoE、M4 Pro MacBook Proで毎秒125トークン超

## POINTS

  • 総39.8B・アクティブ約2.5BのMoE、Apache 2.0で重みを公開
  • Terminal-Bench 2.1で54.9%、SWE-bench Verifiedで74.2%(同社評価)
  • M4 Pro MacBook Proで毎秒125トークン超、llama.cpp・Ollama・vLLM・SGLangに対応

Recursiveの発表によると、Flintは人とエージェントからなる小さなチームが4か月足らずでゼロから構築したモデルで、同社の自動研究システム「Eureka Machine」を使って開発された。総パラメータが50B未満のMoEモデルの中で、SWE-Bench Pro v2、Terminal-Bench 2.1、SWE-Bench Verifiedのエージェント型コーディング評価で首位としている。Hugging Faceのモデルカードでは、Terminal-Bench 2.1で54.9%、SWE-bench Pro v2で89.7%、SWE-bench Verifiedで74.2%。構成は49層(密な2層と47のMoE層)で、35層が513トークンのスライディングウィンドウ注意、14層が全文脈を見る注意になっており、文脈長は262,144トークン。同社の推論エンジンrecを使うとM4 Pro搭載MacBook Proで毎秒125トークン超、64GBのNVIDIA RTX Sparkで毎秒150トークン超を出すという。llama.cpp、Ollama、LM Studio、vLLM、SGLangなどに対応し、vLLMは公開当日からサポートした。同社は複雑なタスクでは小さなサブタスクに分けて明示的に指示するよう勧めており、大型のクローズドモデルより多くの誘導が必要になる場合があるとしている。