ProjectsNewsTranslation pending
小米MiMo两条公开强化学习训练均停止,合计完成60步
BIBIBI AT A GLANCE小米MiMo的两条公开强化学习训练已停止,合计花费347.47万美元。
Article
小米MiMo公开RL停了:两条训练烧掉347万美元
动察 Beating AI 快讯,小米 MiMo 公开直播的两条强化学习训练目前均已停止。Pro 和 Flash 最后完整完成的都是 30 个训练 step,两条 run 合计花费 347.47 万美元。其中 Pro 花费 262.07 万美元,Flash 花费 85.40 万美元。
砸钱换来的提升很明显。DeepSWE v1.1 上,Pro 从第 1 步的 58.41 提升到 72.57,涨了 14.16 分;Flash 从 48.67 提升到 65.68,涨了 17.01 分。但两条曲线中间都有明显回落,并非训练越久分数就一路上涨。
另外两个看板评测也在涨。Pro 的内部代码评测从 57.54 升至 65.43,AutomationBench 从 45.2 升至 53.1。
训练过程也没那么顺利。Pro 因专家负载不均触发过 GPU OOM,训练集群和评分器也断连重启过;Flash 因基础设施错误从 step 15 重跑。后期小米还过滤了对 Pro 已经过于简单的任务,并把出现异常 rollout 模式的 cyber 数据集从 Pro 后续训练中移除。
Source: https://m.theblockbeats.info/flash/368235
AI-assisted interpretation
The following is analysis, separate from reported facts. Verify important claims independently.
这两条训练都已停止;评测分数总体上升,但中间出现回落,训练还遇到显存、断连和基础设施问题。
Why it matters to readers
结果显示,较高训练成本伴随评测提升,但训练过程并非持续上涨且存在基础设施故障。
强化学习训练可以理解为按step推进的训练过程;这里的step、花费和评测分数用于观察训练进展。
Risks and unknowns
- 资料来自快讯和原文链接,未提供独立核验信息。
- 未明确说明训练停止的具体原因。