Anthropic、Messages APIをPythonからRustへ全面移行　Rust経験者ゼロでClaudeが実装、CPU使用量40〜50%減

Lesse氏によると、API利用の拡大でPythonモノリスのCPU効率が課題となり、Rustでの再実装を決めた。開始時点のチームにRust開発者はいなかったため、人が分散システムとしての構成と移行計画を決め、Claudeが具体的な実装を書く分担にした。最も重要だったのは「計画」と「検証」だとし、Rust版のMessages APIを丸ごと別に作ったうえで本番トラフィックをシャドーで流し、PythonとRustの出力が一致するかを比べてから段階的に切り替えた。ヘッダーやエラーペイロードに差が出た場合はトレースをClaudeに渡して修正した。機能追加は控えた「移植」として進め、他チームがPython側に機能を足した場合はRust側の対応を検討させる静的解析も使った。後にRust経験者も数名採用している。CPU削減と遅延改善の数値はポッドキャストでの発言で、Anthropicのエンジニアリングブログなどで公開された計測ではない点に注意が必要。次は会話の状態をAnthropic側で保持し、呼び出し側が会話全体を送り直さずに済む再設計に取り組むとしている。