正文

Claude三天撬开英伟达20年CUDA护城河?Anthropic让Mythos自己移植GPU底层代码

动察 Beating AI 快讯,Anthropic 在 IPO 路演中披露,Claude Mythos Preview 只用了 3 天,就让一款 Claude 模型在 AMD GPU 上跑通了关键计算环节。所需的 GPU 内核几乎全部由 Claude 自行移植或编写,人工干预很少。Anthropic 称,过去接入新的芯片平台,通常需要几十名工程师花费 6 至 12 个月。

英伟达最难被取代的优势之一,就是 CUDA。

CUDA 是英伟达 2006 年推出的 GPU 计算平台。到 2018 年,PyTorch、TensorFlow 等主流深度学习框架已经广泛使用 CUDA 及其配套计算库。英伟达还陆续完善了多卡通信、调试和性能优化工具。开发者不用从头编写大量底层程序,就能高效利用 GPU。

随着越来越多的 AI 训练和推理程序围绕 CUDA 开发,英伟达积累了大量现成代码和工具。开发者选择英伟达,很多时候也是因为软件已经适配好了。即使 AMD 造出了性能很强的 GPU,客户想换过去,也得面对代码迁移、兼容性测试和性能优化等问题。

AMD 的 MI355X 配备了 288GB 高带宽显存,硬件配置并不弱。麻烦在于,针对英伟达编写的 GPU 内核,换成 AMD 后不一定能直接运行,即使跑起来,性能也未必理想。工程师还得根据 AMD 的芯片架构调整代码,反复测试计算结果和运行速度。

AMD 早已推出 ROCm、HIPIFY 等工具,帮助开发者迁移 CUDA 程序。Triton 等跨平台编程工具也在降低迁移难度,但复杂的底层计算仍然需要大量人工优化。

Anthropic 这次让 Mythos 接手了其中一部分工作,自己移植或重新编写 GPU 内核。根据路演图表的说明,它在 3 天内让一款 Claude 模型的提示词处理环节,在 AMD MI355X 上达到可用性能。

Anthropic 其实早就在降低对单一芯片厂商的依赖。招股书披露,公司花了多年时间,建立了横跨英伟达 GPU、AMD GPU、Google TPU 和亚马逊 Trainium 的算力调度系统,可以根据价格和性能选择不同芯片。

今年 7 月,Anthropic 还与 AMD 达成合作,计划从 2027 年上半年开始部署 AMD 新一代 GPU,规模最高达到 2GW。双方还将利用 Claude 加快 ROCm 开发和 GPU 性能优化。AMD 则承诺未来向 Anthropic 投资最高 50 亿美元。

投资人 Marcelo P. Lima 认为,英伟达的 CUDA 护城河已经消失。但分析师 Ben Pouladian 提出了不同看法:让模型的部分计算跑上 AMD,与让整套系统在大规模部署中达到稳定、划算且有竞争力的性能,还有很大差别。

原文链接:https://m.theblockbeats.info/flash/376737