Liquid AI 发布了 RIPL，这是为其 LFM 模型打造的实时推理引擎。在一块 B200 上，运行于 RIPL 的 LFM2.5-1.2B 相比运行于 vLLM 的 Qwen3.5-0.8B，p95 延迟降低了 14.4 至 28.4 倍。文章 Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs 首次发布于 MarkTechPost 。
news
Liquid AI 推出 RIPL，一款面向亚 50 毫秒 LFM 的实时推理引擎
Liquid AI 发布了 RIPL，这是为其 LFM 模型打造的实时推理引擎。在一台 B200 上，运行于 RIPL 的 LFM2.5-1.2B 相比运行于 vLLM 的 Qwen3.5-0.8B，p95 延迟降低了 14.4 至 28.4 倍。文章 Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs 首次发布于 MarkTechPost 。