GitHubは9月16日、GitHub Copilot CLI・アプリ・SDKの共通基盤であるエージェント実行ランタイムを、TypeScript/Node.jsから80万行超の本番Rustへ移植した経緯を公開した。エージェントがコードの大半を書き、128件のプルリクエストをmainへ段階投入した。8月21日時点で本番Rustは83万2378行に達し、約14.5週間でプレリリース100回を含む135回のリリースを重ねた。
背景は、SDKがCLIを別プロセス起動しJSON-RPCで呼ぶ構成だったことだ。C#やPythonなど各言語のSDKは最低でも約100MBの作業セットをNode/V8に払い、起動とメモリ密度がサーバー用途の制約になっていた。移植後はC ABIでプロセス内埋め込みも可能になった。
C# SDKでモデル推論を除いた計測では、クライアント作成から1ターン完了までが5.25秒からプロセス外1.33秒(4.0倍)、プロセス内292ミリ秒(18.0倍)になった。10クライアント同時の常駐メモリ増加は1383MBからプロセス内126MBへ減った。トークン費用は約12万ドル、作業は主に1人の開発者で数か月だった。コンパイラ通過は正しさの保証にならず、型の暗黙差や寿命管理で退行も出た。大規模移植ではE2Eテストをエージェントから守ることが前提になる。