lightonaiは10月12日、コーディングエージェントの探索役としてColGrep-Agent-2Bを公開した。20億パラメータのモデルが端末上で意味検索とファイル読みを行い、該当箇所のパスと行範囲、コードを返す。既定のGGUFは約2.5GBで、GPUがあればMetalやVulkanを使い、なければCPUに落ちる。
測定はClaude CodeにSonnet 5.5を載せ、2026年に作られた13リポジトリ、52問を各3回、4通りの探索手段で回した624セッションだ。探索をこのモデルへ委譲すると、組み込みのgrepに比べAPIトークンは1問あたり14.2万から9.3万へ、34.3%減った(95%信頼区間は28〜40%)。キャッシュを考慮した費用は7.3セントから4.4セントになった。端末側のトークンは課金対象に含めていない。
正解率は80.8%で、grepの83.3%との差は統計的に有意ではない。ただし信頼区間は広く、実質的な低下は否定できない。バランス設定は正解率83.3%のままトークンを21.2%減らした。所要時間は13.0秒から21.6秒へ延び、M3 Proでは1問あたり約20秒、ピークメモリは3〜4GBだった。対象はコードのありかを探す質問であり、修正まで含む開発作業ではない。導入するなら、大きなリポジトリの探索コストと、待ち時間、正解率の幅を分けて見る。