Mirendil、1,000万トークンのコンテキストを持つ初のモデルFern 0.1を発表　約50万行のコードを一度に保持、提供は近日

Mirendilは、パラメータ数と並んでコンテキスト長に計算資源を割くことで能力が伸びるという考えを示し、Megatron-LM規模のコードベース、数十〜数百本のエージェントのトレース、数日分のエージェントの作業を同時に扱えるとしている。想定用途は大規模リポジトリでのエージェント型コーディング、学習ログからの不具合調査、エージェントや学習のトレースの通読、事前学習データの重複やベンチマーク混入の監査。報道によると、NVIDIAのRULERベンチマークを1,000万トークンで各20例評価し、単一ニードル検索100%、複数キー検索90%、マルチホップ45%を報告している。パラメータ数は0.1〜0.5兆で、より大きいBase-Large（0.5〜2兆）とBase-XL（2〜10兆）を事前学習中。アクセスは早期利用の申し込み受付で「近日提供」とされ、価格やAPIの詳細は公開されていない。