Perfil da ferramenta
vLLM
vllm.ai
Motor de inferência e serving de LLMs com alto throughput e eficiência de memória.
O que faz
vLLM
vLLM (Apache-2.0) suporta CUDA, AMD e TPU.
PreçoPreço desconhecido
AvaliaçãoN/D
Favoritos0
Tags
Categorias
Um resumo ainda não foi adicionado.
FAQ
Perguntas frequentes
- O que é vLLM?
- vLLM (Apache-2.0) suporta CUDA, AMD e TPU.
- Para que serve vLLM?
- vLLM está listado no TolsAI nestas categorias: Ferramentas para Desenvolvedores com IA e Grandes Modelos de Linguagem (LLMs).
- Onde posso usar vLLM?
- vLLM está disponível no site oficial, vllm.ai.
Explorar
Mais em Ferramentas para Desenvolvedores com IA
you.bot: Os mesmos modelos de IA por até 46% menos. you.bot é uma API para mais de 70 modelos de LLM, imagem, vídeo e música — Claude, GPT, Gemini, Kling, Seedance, Veo, GPT Image 2, Nano Banana Pro, Suno e mais —
Corrath: Corrath é um gateway de segurança de IA para aplicações modernas de IA. Ele fica entre a sua aplicação e os provedores de IA para proteger chaves de API, bloquear injeções de prompt, controlar gastos, monitorar o uso, detectar t
Transforma um código-fonte e sua documentação em um grafo de conhecimento consultável.
Skill da Cloudflare para auditorias de segurança em várias fases com agentes de código.
Banco em memória compatível com Redis/Valkey em Rust, com busca vetorial.
Um conjunto de regras que faz agentes de IA escreverem o mínimo de código que funciona.
Discussão
Discussão
Entre para participar da discussão
Nenhum comentário ainda. Comece a discussão.