smg-project/smg 可以用来做什么？

smg-project/smg 在 TolsAI 上归入以下分类：Open Source。

在哪里可以使用 smg-project/smg？

可以在 smg-project/smg 的官网 github.com 使用。

工具详情

Open Source

smg-project/smg

github.com

565 stars · updated 2026-10-11 · Rust

访问官网返回榜单

工具介绍标签 FAQ 相关工具

工具介绍

smg-project/smg

github.com

Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.

价格类型价格未知

评分暂无

收藏数0

标签

所属分类

Open Source

暂时还没有精简摘要。

githubopen-sourcellmclaudeanthropicgeminichatanthropic-apiinference-gatewaylightseek

FAQ

常见问题

smg-project/smg 是什么？: Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
smg-project/smg 可以用来做什么？: smg-project/smg 在 TolsAI 上归入以下分类：Open Source。
在哪里可以使用 smg-project/smg？: 可以在 smg-project/smg 的官网 github.com 使用。

探索