本文へスキップ
MameTechNews
AI

2Bのコード探索モデルColGrep-Agent、Claude Codeのトークンを34%削減

## POINTS

  • 52問のコード探索ではAPIトークンが34.3%減り、キャッシュ考慮の費用は1問7.3セントから4.4セントになった。
  • 正解率の差は有意でないが信頼区間が広く、低下の可能性は残る。所要時間は13.0秒から21.6秒へ延びる。
  • 結果はコードの所在を聞く質問に限る。修正まで含む作業と、ローカル推論の待ち時間は別に見積もる。

lightonaiは10月12日、コーディングエージェントの探索役としてColGrep-Agent-2Bを公開した。20億パラメータのモデルが端末上で意味検索とファイル読みを行い、該当箇所のパスと行範囲、コードを返す。既定のGGUFは約2.5GBで、GPUがあればMetalやVulkanを使い、なければCPUに落ちる。

測定はClaude CodeにSonnet 5.5を載せ、2026年に作られた13リポジトリ、52問を各3回、4通りの探索手段で回した624セッションだ。探索をこのモデルへ委譲すると、組み込みのgrepに比べAPIトークンは1問あたり14.2万から9.3万へ、34.3%減った(95%信頼区間は28〜40%)。キャッシュを考慮した費用は7.3セントから4.4セントになった。端末側のトークンは課金対象に含めていない。

正解率は80.8%で、grepの83.3%との差は統計的に有意ではない。ただし信頼区間は広く、実質的な低下は否定できない。バランス設定は正解率83.3%のままトークンを21.2%減らした。所要時間は13.0秒から21.6秒へ延び、M3 Proでは1問あたり約20秒、ピークメモリは3〜4GBだった。対象はコードのありかを探す質問であり、修正まで含む開発作業ではない。導入するなら、大きなリポジトリの探索コストと、待ち時間、正解率の幅を分けて見る。