Fiche outil
vLLM
vllm.ai
Moteur d'inférence et de service de LLM à haut débit et économe en mémoire.
Ce qu'il fait
vLLM
vLLM (Apache-2.0) prend en charge CUDA, AMD et TPU.
Tags
Catégories
Aucun résumé n'a encore été ajouté.
FAQ
Questions fréquentes
- Qu’est-ce que vLLM ?
- vLLM (Apache-2.0) prend en charge CUDA, AMD et TPU.
- À quoi sert vLLM ?
- vLLM est référencé sur TolsAI dans ces catégories : Outils de développement d'IA et Grands modèles de langage (LLM).
- Où utiliser vLLM ?
- vLLM est disponible sur son site officiel, vllm.ai.
Explorer
Plus dans Outils de développement d'IA
you.bot : Les mêmes modèles d'IA jusqu'à 46 % moins cher. you.bot est une API unique pour plus de 70 modèles de LLM, d'image, de vidéo et de musique — Claude, GPT, Gemini, Kling, Seedance, Veo, GPT Image 2, Nano Banana Pro, Suno et plus encore —
Corrath : Corrath est une passerelle de sécurité IA pour les applications IA modernes. Elle se place entre votre application et les fournisseurs d'IA pour protéger les clés API, bloquer les injections de prompts, contrôler les dépenses, surveiller l'utilisation, détecter les t
Transforme une base de code et sa documentation en graphe de connaissances interrogeable.
Skill Cloudflare pour des audits de sécurité multi-phases par agent de code.
Base en mémoire compatible Redis/Valkey en Rust, avec recherche vectorielle.
Un jeu de règles qui pousse les agents de code IA à écrire le minimum de code qui fonctionne.
Discussion
Discussion
Connectez-vous pour participer à la discussion
Aucun commentaire pour le moment. Lancez la discussion.