低延迟

Liquid AI发布超低延迟推理引擎，瞄准搜索、广告和支付风控

Liquid AI发布实时推理引擎RIPL，称其可将自家小型模型的推理延迟降至几十毫秒。官方测试显示，1.2B参数LFM2.5在高并发条件下的响应速度明显快于对比方案。