BerriAI/litellm

最快、最轻量的AI网关。Rust核心搭配Python SDK。以OpenAI（或原生）格式调用100+ LLM API，具备成本追踪、护栏、负载均衡和日志记录功能 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

暂时还没有精简摘要。

BerriAI/litellm 是什么？

最快、最轻量的AI网关。Rust核心搭配Python SDK。以OpenAI（或原生）格式调用100+ LLM API，具备成本追踪、护栏、负载均衡和日志记录功能 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

BerriAI/litellm 收费吗？

BerriAI/litellm 的定价模式是开源，具体套餐请以官网为准。

BerriAI/litellm 可以用来做什么？

BerriAI/litellm 在 TolsAI 上归入以下分类：开源。

在哪里可以使用 BerriAI/litellm？

可以在 BerriAI/litellm 的官网 github.com 使用。