¿Para qué sirve smg-project/smg?

smg-project/smg figura en TolsAI en estas categorías: Open Source.

¿Dónde puedo usar smg-project/smg?

smg-project/smg está disponible en su sitio oficial, github.com.

Perfil de la herramienta

Open Source

smg-project/smg

github.com

565 stars · updated 2026-10-11 · Rust

Visitar sitio web Volver a lanzamientos

Qué hace Etiquetas FAQ Herramientas relacionadas

Qué hace

smg-project/smg

github.com

Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.

PreciosPrecio desconocido

ValoraciónN/D

Guardados0

Etiquetas

Categorías

Open Source

Aún no se ha añadido un resumen.

githubopen-sourcellmclaudeanthropicgeminichatanthropic-apiinference-gatewaylightseek

FAQ

Preguntas frecuentes

¿Qué es smg-project/smg?: Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
¿Para qué sirve smg-project/smg?: smg-project/smg figura en TolsAI en estas categorías: Open Source.
¿Dónde puedo usar smg-project/smg?: smg-project/smg está disponible en su sitio oficial, github.com.

Explorar