Liquid AI가 자사의 LFM 모델을 위한 실시간 추론 엔진인 RIPL을 출시했습니다. B200 한 대에서 RIPL 상의 LFM2.5-1.2B는 vLLM 상의 Qwen3.5-0.8B보다 p95 지연 시간이 14.4배에서 28.4배 더 낮은 것으로 나타났습니다. Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs라는 글은 MarkTechPost 에 처음 게재되었습니다.
news
Liquid AI, 50ms 미만 LFM을 위한 실시간 추론 엔진 RIPL 출시
Liquid AI가 자사의 LFM 모델을 위한 실시간 추론 엔진인 RIPL을 출시했다. B200 한 대에서 RIPL 상의 LFM2.5-1.2B는 vLLM 상의 Qwen3.5-0.8B보다 p95 지연 시간이 14.4배에서 28.4배 더 낮은 것으로 나타났다. Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs 게시물은 MarkTechPost 에 처음 게재되었다.