Meta Superintelligence LabsはMuse Glimmerを発表し、モデル重みをApache 2.0でオープンソース化した。約300億パラメータの密なモデルで、常時稼働のローカルエージェント、関数呼び出し、ローカルコーディング、LLM-as-a-judgeなどに向けて最適化されている。MacやPC上の単一民生GPUで動かせる規模を狙う。
背景
多くの基盤モデル利用はクラウドとネットワーク前提だが、個人コンテキストやオフライン性を要するエージェントではローカル実行の需要が高い。Metaは事前学習でMuse Sparkの出力を用いたlogit蒸留、中間学習での長文脈・エージェント寄りデータ、事後学習でのSFTとオンポリシー蒸留・強化学習の組み合わせで、能力と端末制約の両立を図ったとしている。知覚エンコーダによりテキストと画像のインターリーブ入力にも対応する。
エンジニアへの影響
重みはHugging Faceで公開済みで、近日中にllama.cpp、MLX、ExecuTorch向け最適化やOllama、LM Studio、vLLM、SGLangなどの経路も案内されている。量子化で言語モデル本体を概ね4ビット・20GB未満に抑え、24〜32GB級のメモリ枠でKVキャッシュやドラフタと同居させる設計だ。ローカルエージェント基盤を評価・自前運用するチームは、ライセンスと配布経路の確認から始めやすい。