Anthropic称已将Messages API迁移至Rust,CPU用量降约40%至50%
动察 Beating AI 报道,Anthropic平台工程负责人称,公司已将Messages API从Python迁移至Rust,并于9月全面上线。其称改造后CPU用量减少约40%至50%,首个Token响应延迟改善约10%至20%。
正在加载…
把分散的消息,连成可以理解的脉络。
动察 Beating AI 报道,Anthropic平台工程负责人称,公司已将Messages API从Python迁移至Rust,并于9月全面上线。其称改造后CPU用量减少约40%至50%,首个Token响应延迟改善约10%至20%。