Anthropic 用 Claude 把 Messages API 由 Python 改寫成 Rust
據科技播客 Latent Space 2026 年 10 月 27 日發布的訪談，Anthropic 平台工程主管 Katelyn Lesse 和 Claude 平台產品主管 Angela Jiang 透露，公司已把 Claude 的核心介面 Messages API 由 Python 全面改寫成 Rust，並在訪談播出前一星期完成上線。所有 Claude 應用程式和開發者整合都要呼叫這個入口。
節目中有人說：「我們房間裡連一個 Rust 開發者都沒有。」寫程式的是 Claude，工程師負責設計整個系統。
為甚麼要改寫：CPU 撞牆
兩人在節目上表示，Messages API 起初是一個在單一 Google Cloud 區域運行的 Python 單體程式，後來雖然擴展到多個區域，但 CPU 用量愈來愈緊。他們形容 CPU 是固定預算，要分給產品服務、AI 代理運行的沙盒、持續整合測試和研究；AI 寫的程式愈多，測試要跑的次數也愈多。他們於是決定改用執行效率更高的 Rust，並形容這在當時是「一個瘋狂的決定」。
人類寫計劃和驗證，Claude 寫程式
節目上有人說：「最重要的兩件事，是做這件事的計劃，以及驗證這件事，因為實際實作就是 Claude 在寫程式。」團隊用 Rust 另建了一整套 API 的分支版本，再把真實流量的副本（shadow traffic）同時送進新舊兩套系統，核對輸出是否一致，然後才把正式流量轉過去。今次改寫只是移植，沒有加入新功能，團隊後來才聘請了幾名 Rust 工程師。
成效：CPU 用量減四至五成
據 InfoQ 2026 年 10 月 29 日整理的報道，Katelyn Lesse 表示，改寫後相關服務的 CPU 資源消耗減少約 40% 至 50%，首個 token 回應時間（time to first token，即用戶發出請求到收到第一段回覆的時間）亦加快約 10% 至 20%。這些是工程師在節目上的粗略估算，Anthropic 沒有公布正式的基準測試。
項目 | 內容 |
|---|---|
改寫 | Python 單體程式 → Rust，已全面上線 |
團隊起步時的 Rust 開發者 | 零 |
驗證方法 | 真實流量副本同時跑新舊系統，核對輸出 |
CPU 用量 | 減少約 40% 至 50% |
首個 token 回應時間 | 加快約 10% 至 20% |
平台團隊的程式已全由 Claude 撰寫
這次改寫並非孤立例子。據 Business Insider 報道，Katelyn Lesse 在 Grafana Labs 的 ObservabilityCON 大會上表示，她帶領的平台工程團隊（今年夏天約 200 人）「所有程式碼都由 Claude 撰寫，真的是全部」。她說團隊成員仍然負責設計系統和驗證方法，把實際寫程式交給 Claude；談到由 Python 轉 Rust 的項目時，她說「建造和監察各個部分的粗重工夫，全部都是 AI 代理做的」。
來源
- How Anthropic ships the #1 LLM in the World safely: Separating the Brain from the Hands（Latent Space 原始訪談）
- Anthropic Team Zero Rust Experience: Achieves 40% Lower CPU Consumption & 20% Reduced Latency（36Kr／InfoQ）
- Anthropic's top engineer reveals just how far her team has gone with AI coding（Business Insider）
暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。