Prefrontal与苏黎世联邦理工开源LSA稀疏注意力技术
Prefrontal与苏黎世联邦理工学院研究者开源LSA,用语义分组加速超长上下文稀疏注意力。其在GLM和Qwen测试中报告显著预填充及首Token延迟改善,但多级索引准确率仍有下降。
正在加载…
把分散的消息,连成可以理解的脉络。
Prefrontal与苏黎世联邦理工学院研究者开源LSA,用语义分组加速超长上下文稀疏注意力。其在GLM和Qwen测试中报告显著预填充及首Token延迟改善,但多级索引准确率仍有下降。
印度AI公司Sarvam发布开源决策模型Prism,称其基于105B模型并将单次请求中位响应时间降至44毫秒。模型已按Apache 2.0协议开放权重。
截至10月27日,Token支出价格指数报0.94美元/百万Token,较七日前下跌1.9%,较阶段高点回落54.48%。
DiffuSpace发布并开源基于Qwen3.6-35B-A3B改造的扩散模型Clover-35B-A3B-Preview。其公布的内部测试称,该模型在GB300单卡上达到680 Token/s。
报道称Anthropic正准备一款更擅长推理及理解用户需求的新Claude模型,但相关评价仅来自一名提前试用者,尚无公开测试数据。社区猜测其或为Claude Fable 5.5。
NaiveAI发布N0.5-Flash并称单流推理峰值达2122 tok/s、AI参与研发。月之暗面研究员杨新宇质疑其对比基线及架构创新表述,认为尚不足以证明“AI造AI”带来独特突破。
斯坦福大学与NVIDIA Research研究人员开源CLM-8B,用于从候选动作中快速选择,官方测试称其最高比Jev快约9倍。