内容摘要报道称Aleph Alpha开源英德双语MoE模型Kolibri,单token激活约34.6亿参数。
正文
欧洲开源模型Kolibri来了:3.46B激活参数,支持1M上下文
动察 Beating AI 快讯,德国 AI 公司 Aleph Alpha 发布并开源英德双语模型 Kolibri。模型采用 MoE 架构,总参数 781 亿,但每个 token 只激活约 34.6 亿参数。权重已经上传 Hugging Face,采用 Apache 2.0 协议。
Kolibri 支持工具调用和可调节的推理模式,上下文最高可扩展到约 100 万 tokens。不过官方建议日常部署控制在 26.2 万 tokens 以内,模型实际训练到的最长上下文也是 26.2 万。
Aleph Alpha 的官方评测中,Kolibri 在 AIME 2025 得到 96.9%,LiveCodeBench v6 得到 85.9%。综合英德文成绩略高于同为约 3B 激活参数的 Qwen3.5 35B-A3B,但仍低于 27B 全激活的 Qwen3.8。
原文链接:https://m.theblockbeats.info/flash/370241
AI 辅助解读
以下为辅助分析,与已报道事实分开展示;重要信息请进一步核实。
MoE架构可以理解为模型拥有很多参数,但处理每个token时只启用其中一部分。Kolibri虽然共有781亿参数,每个token约激活34.6亿参数。材料还区分了最高可扩展上下文与实际训练长度:前者约100万tokens,后者为26.2万tokens,官方日常部署建议也不超过26.2万。
对读者的影响
这则材料展示了一个支持英德双语、工具调用和长上下文的开源模型选择;Apache 2.0协议及已上传的权重是评估其可用性的关注点。
新手可重点区分“总参数”和“激活参数”,并注意约100万tokens是可扩展上限,不是材料所称的实际最长训练长度。基准分数来自官方评测,不能直接等同于所有真实使用场景的表现。
风险与未知
- 所给材料未包含Aleph Alpha的一手公告或Hugging Face模型仓库页面,权重、许可及规格无法在本证据内独立核验。
- AIME 2025和LiveCodeBench v6成绩属于Aleph Alpha官方评测,材料未提供独立复测结果。
- 材料未说明约100万tokens上下文下的实际效果、资源需求或部署成本。
- 材料未提供模型采用情况。