工具介紹
vLLM
vLLM（Apache-2.0）是開源 LLM 推論服務引擎，支援 CUDA、AMD、TPU。
價格類型價格未知
評分暫無
收藏數0
標籤
所屬分類
目前還沒有精簡摘要。
FAQ
常見問題
- vLLM 是什麼？
- vLLM（Apache-2.0）是開源 LLM 推論服務引擎，支援 CUDA、AMD、TPU。
- vLLM 可以用來做什麼？
- vLLM 在 TolsAI 上歸入以下分類：人工智慧開發工具和大型語言模型 (LLM)。
- 在哪裡可以使用 vLLM？
- 可以在 vLLM 的官網 vllm.ai 使用。
探索
人工智慧開發工具 的更多工具
you.bot：相同的 AI 模型最多可節省 46%。 you.bot 是一個適用於 70 多個 LLM、影象、影片和音樂模型的 API — Claude、GPT、Gemini、Kling、Seedance、Veo、GPT Image 2、Nano Banana Pro、Suno 等 —
Corrath：Corrath 是適用於現代人工智慧應用的人工智慧安全閘道器。它位於您的應用程式和 AI 提供商之間，用於保護 API 金鑰、阻止提示注入、控制支出、監控使用情況、檢測
將程式碼庫及其文件、SQL 結構、設定與 PDF 轉為可查詢的知識圖譜。
Cloudflare 推出的程式代理技能，執行多階段安全稽核並輸出經驗證、機器可讀的結果。
以 Rust 撰寫、相容 Redis/Valkey 的記憶體資料庫，內建全文與向量搜尋。
讓 AI 程式代理只寫「剛好夠用」程式碼的規則集 / Skill。
討論
討論
登入後參與討論
目前還沒有留言，來開啟討論吧。