Liquid AI đã phát hành RIPL, một engine suy luận thời gian thực cho các mô hình LFM của mình. Trên một B200, LFM2.5-1.2B trên RIPL cho thấy độ trễ p95 thấp hơn 14,4 đến 28,4 lần so với Qwen3.5-0.8B trên vLLM. Bài viết Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs xuất hiện đầu tiên trên MarkTechPost .
news
Liquid AI ra mắt RIPL, một công cụ suy luận thời gian thực cho các LFM dưới 50 ms
Liquid AI đã phát hành RIPL, một engine suy luận thời gian thực cho các mô hình LFM của mình. Trên một B200, LFM2.5-1.2B chạy trên RIPL cho thấy độ trễ p95 thấp hơn từ 14,4 đến 28,4 lần so với Qwen3.5-0.8B trên vLLM. Bài viết Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs xuất hiện đầu tiên trên MarkTechPost .