À quoi sert smg-project/smg ?

smg-project/smg est référencé sur TolsAI dans ces catégories : Open Source.

Où utiliser smg-project/smg ?

smg-project/smg est disponible sur son site officiel, github.com.

Fiche outil

Open Source

smg-project/smg

github.com

565 stars · updated 2026-10-11 · Rust

Visiter le site Retour aux lancements

Ce qu'il fait Tags FAQ Outils similaires

Ce qu'il fait

smg-project/smg

github.com

Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.

TarifsTarif inconnu

NoteN/D

Favoris0

Catégories

Open Source

Aucun résumé n'a encore été ajouté.

githubopen-sourcellmclaudeanthropicgeminichatanthropic-apiinference-gatewaylightseek

FAQ

Questions fréquentes

Qu’est-ce que smg-project/smg ?: Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
À quoi sert smg-project/smg ?: smg-project/smg est référencé sur TolsAI dans ces catégories : Open Source.
Où utiliser smg-project/smg ?: smg-project/smg est disponible sur son site officiel, github.com.

Explorer