vllm-project/semantic-router

vLLM Semantic Router 为智能体框架提供统一 API 接入多个模型，并根据你在质量、延迟、成本和位置上的策略，为每次调用选择或组合后端。它面向在本地、私有和云端算力上运行 LLM 智能体的团队，帮助他们统一路由并实施防护。项目使用 Go 编写，以可安装的开源项目形式提供，并配有文档和在线演练场。

暂时还没有精简摘要。

vllm-project/semantic-router 是什么？

vLLM Semantic Router 为智能体框架提供统一 API 接入多个模型，并根据你在质量、延迟、成本和位置上的策略，为每次调用选择或组合后端。它面向在本地、私有和云端算力上运行 LLM 智能体的团队，帮助他们统一路由并实施防护。项目使用 Go 编写，以可安装的开源项目形式提供，并配有文档和在线演练场。

vllm-project/semantic-router 收费吗？

vllm-project/semantic-router 的定价模式是开源，具体套餐请以官网为准。

vllm-project/semantic-router 可以用来做什么？

vllm-project/semantic-router 在 TolsAI 上归入以下分类：开源。

在哪里可以使用 vllm-project/semantic-router？

可以在 vllm-project/semantic-router 的官网 github.com 使用。