smg-project/smg

Gateway LLM agnóstico del motor en Rust. Compatibilidad total con las API de OpenAI y Anthropic en vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini y más. Pipeline gRPC pionero en la industria, enrutamiento con reconocimiento de caché KV, historial de chat, almacenamiento en caché de tokenización, Responses API, embeddings, plugins WASM, MCP y autenticación multiinquilino.

Aún no se ha añadido un resumen.

¿Qué es smg-project/smg?

Gateway LLM agnóstico del motor en Rust. Compatibilidad total con las API de OpenAI y Anthropic en vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini y más. Pipeline gRPC pionero en la industria, enrutamiento con reconocimiento de caché KV, historial de chat, almacenamiento en caché de tokenización, Responses API, embeddings, plugins WASM, MCP y autenticación multiinquilino.

¿Cuánto cuesta smg-project/smg?

smg-project/smg tiene un modelo de precios: Código abierto. Consulta el sitio oficial para ver los planes actuales.

¿Para qué sirve smg-project/smg?

smg-project/smg figura en TolsAI en estas categorías: Código abierto.

¿Dónde puedo usar smg-project/smg?

smg-project/smg está disponible en su sitio oficial, github.com.