Liquid AI a publié RIPL, un moteur d'inférence en temps réel pour ses modèles LFM. Sur un seul B200, LFM2.5-1.2B sur RIPL a affiché une latence p95 de 14,4 à 28,4 fois inférieure à celle de Qwen3.5-0.8B sur vLLM. L'article Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs est apparu en premier sur MarkTechPost .
news
Liquid AI lance RIPL, un moteur d'inférence en temps réel pour les LFMs sous 50 ms
Liquid AI a publié RIPL, un moteur d'inférence en temps réel pour ses modèles LFM. Sur un seul B200, LFM2.5-1.2B sur RIPL a affiché une latence p95 de 14,4 à 28,4 fois inférieure à celle de Qwen3.5-0.8B sur vLLM. L'article Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs est apparu en premier sur MarkTechPost .