Perplexity开源两款决策模型:百万输入Token最低1美分,推理最高提速5倍
Perplexity开源27B和4B两款多模态决策模型,支持分类、评分和判断任务。官方称部分场景推理速度最高提升5倍,API输入价格最低为每百万Token 0.01美元。
正在加载…
把分散的消息,连成可以理解的脉络。
Perplexity开源27B和4B两款多模态决策模型,支持分类、评分和判断任务。官方称部分场景推理速度最高提升5倍,API输入价格最低为每百万Token 0.01美元。
动察 Beating AI 报道称,Scale Labs与Elorian发布HSS评测,25款多模态模型在图片和视频隐含信息理解测试中均低于人类受试者。报道还称,增加推理量和使用图像检查Agent虽有帮助,但未弥合差距。
Google DeepMind开源EmbeddingGemma 2,支持多模态统一向量检索,最大7.4亿参数并采用Apache 2.0许可证。
报道称,SGLang在nightly版新增原生决策API和/v1/systemone接口,使现成LLM可直接返回候选选项概率。该功能计划随v0.5.21正式发布。