Eagle发布EAGLE-4:Qwen推理提速3.6倍,改用限制性商业许可证
Eagle发布EAGLE-4推测解码方案,报道显示其在4张NVIDIA B300 GPU上将Qwen3.8-27B单请求生成速度提升至863.8 Token/秒。新版已公开代码,但商业许可较前三代收紧。
正在加载…
把分散的消息,连成可以理解的脉络。
Eagle发布EAGLE-4推测解码方案,报道显示其在4张NVIDIA B300 GPU上将Qwen3.8-27B单请求生成速度提升至863.8 Token/秒。新版已公开代码,但商业许可较前三代收紧。