smg-project/smg

與引擎無關的 Rust LLM 閘道。完整相容 OpenAI 與 Anthropic API，涵蓋 vLLM、TRT-LLM、TokenSpeed、SGLang、OpenAI、Gemini 等。業界首創 gRPC 管線、KV 快取感知路由、聊天記錄、分詞快取、Responses API、embeddings、WASM 外掛、MCP 及多租戶驗證。

目前還沒有精簡摘要。

smg-project/smg 是什麼？

與引擎無關的 Rust LLM 閘道。完整相容 OpenAI 與 Anthropic API，涵蓋 vLLM、TRT-LLM、TokenSpeed、SGLang、OpenAI、Gemini 等。業界首創 gRPC 管線、KV 快取感知路由、聊天記錄、分詞快取、Responses API、embeddings、WASM 外掛、MCP 及多租戶驗證。

smg-project/smg 收費嗎？

smg-project/smg 的定價模式是開源，具體方案請以官網為準。

smg-project/smg 可以用來做什麼？

smg-project/smg 在 TolsAI 上歸入以下分類：開源。

在哪裡可以使用 smg-project/smg？

可以在 smg-project/smg 的官網 github.com 使用。