印度Sarvam发布开源决策模型Prism，单次响应中位数降至44毫秒

Article

印度Sarvam发布Prism：105B模型只需44毫秒就能完成一次决策

印度 AI 公司 Sarvam 发布开源决策模型 Prism，基于 Sarvam 105B 微调。

Prism 采用 MoE 架构，总参数约 1050 亿，每次仅激活约 100 亿参数。经过推理优化，单次请求的中位响应时间从 664 毫秒降至 44 毫秒，提速约 15 倍。

Sarvam 测试了 25 款决策模型。Prism 在三项评测中平均得到 71.8 分，是响应时间低于 100 毫秒的模型中得分最高的。它还测试了 2000 道选择题，无论如何打乱选项顺序，答案都保持一致。

模型已按 Apache 2.0 协议开放权重，支持企业自行微调和部署。

Key points

The following is analysis, separate from reported facts. Verify important claims independently.

MoE架构让模型每次只激活部分参数，文中称这有助于降低响应时间。开放权重意味着企业可以自行微调和部署。

这显示一个较大规模模型尝试在较低延迟下完成决策任务，并提供了企业自行部署的选项。

你可以把它理解为：模型规模较大，但每次只调用部分参数，以追求更快响应。