Prefrontal与苏黎世联邦理工开源LSA稀疏注意力技术
Prefrontal与苏黎世联邦理工学院研究者开源LSA,用语义分组加速超长上下文稀疏注意力。其在GLM和Qwen测试中报告显著预填充及首Token延迟改善,但多级索引准确率仍有下降。
Loading…
Connect scattered updates into a story you can understand.
Prefrontal与苏黎世联邦理工学院研究者开源LSA,用语义分组加速超长上下文稀疏注意力。其在GLM和Qwen测试中报告显著预填充及首Token延迟改善,但多级索引准确率仍有下降。
Baidu released and open-sourced Unlimited-OCR 2, improving the efficiency of -page document parsing through sparse attention, chunked decoding, and cache reuse. Its results on Baidu's self-built benchmark exceeded those of the listed comparison models.