Prefrontal与苏黎世联邦理工开源LSA稀疏注意力技术
Prefrontal与苏黎世联邦理工学院研究者开源LSA,用语义分组加速超长上下文稀疏注意力。其在GLM和Qwen测试中报告显著预填充及首Token延迟改善,但多级索引准确率仍有下降。
Connect scattered updates into a story you can understand.
Prefrontal与苏黎世联邦理工学院研究者开源LSA,用语义分组加速超长上下文稀疏注意力。其在GLM和Qwen测试中报告显著预填充及首Token延迟改善,但多级索引准确率仍有下降。