Prefrontal与苏黎世联邦理工开源LSA稀疏注意力技术
Prefrontal与苏黎世联邦理工学院研究者开源LSA,用语义分组加速超长上下文稀疏注意力。其在GLM和Qwen测试中报告显著预填充及首Token延迟改善,但多级索引准确率仍有下降。
正在加载…
把分散的消息,连成可以理解的脉络。
Prefrontal与苏黎世联邦理工学院研究者开源LSA,用语义分组加速超长上下文稀疏注意力。其在GLM和Qwen测试中报告显著预填充及首Token延迟改善,但多级索引准确率仍有下降。
百度发布并开源Unlimited-OCR 2,通过稀疏注意力、分块解码和缓存复用提升百页文档解析效率。其在百度自建基准中的成绩高于所列对比模型。