Liquid AI hat RIPL veröffentlicht, eine Echtzeit-Inferenz-Engine für seine LFM-Modelle. Auf einer B200 zeigte LFM2.5-1.2B auf RIPL eine um 14,4 bis 28,4x niedrigere p95-Latenz als Qwen3.5-0.8B auf vLLM. Der Beitrag Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs erschien zuerst auf MarkTechPost .
news
Liquid AI startet RIPL, eine Echtzeit-Inferenz-Engine für LFMs unter 50 ms
Liquid AI hat RIPL veröffentlicht, eine Echtzeit-Inferenz-Engine für seine LFM-Modelle. Auf einer B200 zeigte LFM2.5-1.2B auf RIPL eine um 14,4 bis 28,4x niedrigere p95-Latenz als Qwen3.5-0.8B auf vLLM. Der Beitrag Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs erschien zuerst auf MarkTechPost .