Wofür wird smg-project/smg verwendet?

smg-project/smg ist auf TolsAI in diesen Kategorien gelistet: Open Source.

Wo kann ich smg-project/smg nutzen?

smg-project/smg ist auf der offiziellen Website github.com verfügbar.

Tool-Profil

Open Source

smg-project/smg

github.com

565 stars · updated 2026-10-11 · Rust

Website besuchen Zurück zu neuen Tools

Was es kann Tags FAQ Ähnliche Tools

Was es kann

smg-project/smg

github.com

Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.

PreisePreis unbekannt

Bewertungk. A.

Lesezeichen0

Kategorien

Open Source

Eine Kurzbeschreibung fehlt noch.

githubopen-sourcellmclaudeanthropicgeminichatanthropic-apiinference-gatewaylightseek

FAQ

Häufige Fragen

Was ist smg-project/smg?: Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
Wofür wird smg-project/smg verwendet?: smg-project/smg ist auf TolsAI in diesen Kategorien gelistet: Open Source.
Wo kann ich smg-project/smg nutzen?: smg-project/smg ist auf der offiziellen Website github.com verfügbar.

Entdecken