smg-project/smg 可以用來做什麼？

smg-project/smg 在 TolsAI 上歸入以下分類：Open Source。

在哪裡可以使用 smg-project/smg？

可以在 smg-project/smg 的官網 github.com 使用。

工具詳情

Open Source

smg-project/smg

github.com

565 stars · updated 2026-10-11 · Rust

造訪官網返回榜單

工具介紹標籤 FAQ 相關工具

工具介紹

smg-project/smg

github.com

Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.

價格類型價格未知

評分暫無

收藏數0

標籤

所屬分類

Open Source

目前還沒有精簡摘要。

githubopen-sourcellmclaudeanthropicgeminichatanthropic-apiinference-gatewaylightseek

FAQ

常見問題

smg-project/smg 是什麼？: Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
smg-project/smg 可以用來做什麼？: smg-project/smg 在 TolsAI 上歸入以下分類：Open Source。
在哪裡可以使用 smg-project/smg？: 可以在 smg-project/smg 的官網 github.com 使用。

探索